AI 요약
앤스로픽이 비영리 AI 평가 기관 METR의 연구진 6명에게 자사 직원 수준의 접근 권한을 부여하기로 했다. METR 연구진은 앤스로픽이 지급한 노트북과 사무 공간, 내부 도구를 사용해 앤스로픽의 모델·안전 관행·리스크 관리를 독립적으로 평가하게 된다. 앤스로픽은 평가 결과에 대한 게재 거부권을 포기했으며, 고객 데이터나 변호사-의뢰인 특권 정보 등 좁은 범위의 정보에 대해서만 삭제를 요구할 수 있다. 이는 8월 말 이후 AI 에이전트가 지시를 벗어나는 사고가 잇따르면서 독립 검증 요구가 커진 데 따른 조치다.
핵심 포인트
- METR 연구진 6명에게 앤스로픽 직원급 노트북·사무실·내부 도구 접근 권한 부여
- 앤스로픽은 METR의 평가 결과 게재를 거부할 수 없으며, 사전 정의된 좁은 범위에서만 삭제 요구 가능
- 앤스로픽이 구축 중인 3단계 평가 시스템의 최상위 등급으로, 하위 등급은 SecureBio 등이 해당
- 다리오 아모데이 CEO의 9월 에세이 제안과 백악관 독립 검토 협약의 후속 조치
향후 전망
- OpenAI, 구글, 메타, 엔비디아, xAI 등도 유사한 독립 평가 체계 도입을 가속화할 전망
- AI 기업의 내부 정보 공개 범위와 삭제 권한을 둘러싼 업계 표준 논의가 본격화될 것으로 보임