이 AI '정비사', 다른 신경망의 '블랙박스' 속을 들여다본다

“네이처 팟캐스트 'Cooked?' 첫 회는 2024년 세계가 처음으로 파리협정 1.5℃ 임계값을 넘었고, 트럼프 대통령이 취임 첫날 기존 기후 정책을 뒤집고 화석연료를 옹호했으며 EU도 야심찬 환경 정책을 약화시킨 상황을 짚는다. 진행자 닉 페트리치 호는 재생에너지 데이터, AI의 에너지 소비, 각국 기후 대응 성과를 전문가들과 논의하며 기후 불안 속에서도 낙관할 근거를 모색한다.”

AI 요약

MIT 연구팀이 GPT-6 Astra를 활용해 다른 AI 모델의 내부 값을 해석하고 수정하는 방법을 시연했다. Astra는 대상 모델의 각 부분이 하는 일을 예측하고 편집해 수학 능력 향상 등 성능 개선까지 가능함을 보였다. 이는 설계하지도 완전히 이해하지도 못하는 엔진을 고치는 정비사에 비유된다. 다만 연구진은 이것이 모델을 완전히 설명하거나 이해하는 것은 아니라고 선을 그었다.

핵심 포인트

  • MIT 팀, 2025년 11월 2일 프리프린트로 연구 결과 공개
  • 공동저자 리키야 타케히: 프런티어 AI가 신경망을 읽고 추론·수정하는 능력의 "초기 징후"를 보임
  • 신경망은 수십억 개의 '가중치'로 연결된 처리 단위(뉴런) 층 구조
  • 옥스퍼드대 파즐 바레즈, 해석 가능성 방법의 자동화 가능성은 인정하나 안전성 향상 가정은 "대체로 검증되지 않았다"고 경고

향후 전망

  • 모델 오류를 실사용 전에 사전 탐지하는 과학용 AI 개발에 활용 가능성
  • AI 해석가능성 자동화가 실제 안전성 향상으로 이어지는지 검증 필요
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...