AI 연구소들의 진짜 목표는 '속도 조절'이 아니다

AI 요약

AI 연구소 CEO들이 "프런티어 속도 조절(pacing the frontier)"을 주장하지만, 실제 행동은 정반대라는 비판이 제기된다. Dario Amodei는 재귀적 자기 개선(RSI)이 이미 산업 전반에서 시작되고 있어 위험 방지를 위해 속도를 늦춰야 한다고 주장한다. 그러나 2023년 CAIS 성명 서명 이후 연구소들은 속도를 조절하기는커녕 오히려 가속해왔으며, SOTA 벤치마크를 갱신하는 모델들을 계속 출시하고 자동화 생물학 연구에 착수했다. 저자는 연구소들의 위험 관련 발언을 무시하는 것이 옳다고 주장한다.

핵심 포인트

• Dario Amodei는 2023년 CAIS 성명 이후 RSI(재귀적 자기 개선) 위험을 언급하며 속도 조절을 주장
• 2024년 Anthropic의 Claude 3 출시 당시에도 "경쟁사보다 크게 앞서지 않겠다"는 발언과 실제 행보가 불일치
• CAIS 2023 성명 서명 이후 연구소들은 실질적 속도 조절 조치를 거의 취하지 않음
• 자동화 생물학 연구 착수 등 안전 조치보다 역량 확장에 집중

향후 전망

• 연구소들의 위험 담론과 실제 행동 간 괴리가 지속될 가능성이 높음
• RSI 가속화로 통제 불가능성에 대한 우려가 커질 전망