AI 요약
앤스로픽 CEO 다리오 아모데이가 AI 개발 속도를 늦추는 "프런티어 페이싱(pace the frontier)" 방안을 블로그에 제시하고, 앤스로픽이 그중 하나를 일방적으로 이행하겠다고 선언했다. 그는 오픈AI-허깅페이스 해킹과 AI의 급격한 발전 속도를 근거로 들며, 제3자 기관(METR 등)의 "내장 평가자(embedded evaluators)"를 받아들이는 방안을 첫 단계로 제안했다. 샘 올트먼과 일론 머스크도 이에 동의를 표했으며, 올트먼은 오픈AI도 동참하겠다고 밝혔다.
핵심 포인트
- 아모데이, 3대 전략 제시: ① 제3자 내장 평가자 수용 ② 민주국가 AI 기업 간 공통 안전 기준·속도 제한 조율 ③ (세 번째 전략은 본문에서 생략)
- 앤스로픽, 내장 평가자 수용을 "일방적"으로 이행하겠다고 선언
- 올트먼 "동의한다, 오픈AI도 곧 세부사항 공유", 머스크 "다리오가 맞다"
- 배경: 연구자 제이콥 콕슨의 앤스로픽 사직과 안전 우려 제기
향후 전망
- 기업 간 안전 기준 조율이 반독점 규제 우려로 난항을 겪을 가능성
- 내장 평가자 제도가 업계 표준으로 자리 잡을지 주목