AI 요약
앤스로픽(Anthropic) 연구원이 AI가 스스로 정렬(alignment) 성능을 개선하는 '자기 발전형 AI' 연구 결과를 발표했습니다. '자동화된 연구자가 정렬 실패를 안정적으로 완화할 수 있다'는 제목의 논문에서, 자동화 시스템이 10개의 정렬 벤치마크 모두에서 성능을 개선했으며 전체 성능 저하도 없었다고 밝혔습니다. 특히 최고 성능의 자동화 연구자는 평균 6시간 내에 숙련된 인간 연구자가 제안한 방법보다 우수한 결과를 냈고, 시간당 비용은 인간 연구자(150달러)의 약 1/40 수준인 4달러에 불과했습니다.
핵심 포인트
- 앤스로픽 펠로우 프로그램의 천웨한(Chen Yueh-Han) 연구원 주도
- 자동화 시스템이 10개 정렬 벤치마크 모두에서 성능 개선, 전체 성능 저하 없음
- 최고 AAR(자동 정렬 연구자) 방법이 평균 6시간 내 인간 연구자 제안을 능가
- 비용 비교: AAR 시간당 약 4달러 vs 인간 연구자 시간당 150달러
향후 전망
- 자동화 정렬 포스트트레이닝이 가까운 시일 내 실용화될 수 있다는 초기 증거로 평가
- 궁극적으로 AI가 자신의 훈련 방식을 개선하는 '재귀적 자기 개선'으로 이어질 가능성