AI 요약
OpenAI에서 주요 모델 출시마다 안전 보고서를 작성하던 David Robinson이 사임하며 회사의 문화가 "망가졌다"고 공개 비판했다. 그는 《The Atlantic》 기고를 통해 실리콘밸리의 "극단적 자신감"과 "끊임없는 스프린트" 문화가 잠재적 위험을 무시하고 있다고 지적했다. AI 기업들이 원자력 발전소나 공항 수준의 다층적 안전장치와 신중한 계획을 갖춰야 한다고 주장했다.
핵심 포인트
- David Robinson은 OpenAI의 모든 주요 모델 출시에 안전 보고서를 작성하던 직원으로 이번 주 사임
- 그는 AI에 "원자력 발전소 수준의 안전장치"가 필요하다고 주장
- Anthropic의 Jacob Coxon을 시작으로 Google DeepMind의 Robert O'Callahan, Bilal Chughtai, Josh Engels, Anthropic의 Joe Benton 등이 연쇄 퇴사
- Coxon은 AI가 "10년 내 인류를 멸종시킬 수 있다"고 경고
향후 전망
- FTC가 OpenAI와 Anthropic에 대한 조사에 착수한 것으로 보도되며 규제 압력 증가
- 주요 AI 연구자들의 잇따른 경고로 안전 규제 논의가 본격화될 전망