AI 요약
MIT 연구팀이 GPT-6 Astra를 활용해 다른 AI 모델의 내부 값을 해석하고 수정하는 방법을 시연했다. Astra는 대상 모델의 각 부분이 하는 일을 예측하고 편집해 수학 능력 향상 등 성능 개선까지 가능함을 보였다. 이는 설계하지도 완전히 이해하지도 못하는 엔진을 고치는 정비사에 비유된다. 다만 연구진은 이것이 모델을 완전히 설명하거나 이해하는 것은 아니라고 선을 그었다.
핵심 포인트
- MIT 팀, 2025년 11월 2일 프리프린트로 연구 결과 공개
- 공동저자 리키야 타케히: 프런티어 AI가 신경망을 읽고 추론·수정하는 능력의 "초기 징후"를 보임
- 신경망은 수십억 개의 '가중치'로 연결된 처리 단위(뉴런) 층 구조
- 옥스퍼드대 파즐 바레즈, 해석 가능성 방법의 자동화 가능성은 인정하나 안전성 향상 가정은 "대체로 검증되지 않았다"고 경고
향후 전망
- 모델 오류를 실사용 전에 사전 탐지하는 과학용 AI 개발에 활용 가능성
- AI 해석가능성 자동화가 실제 안전성 향상으로 이어지는지 검증 필요
