트랜스포머 회로를 위한 수학적 프레임워크 (2021)

AI 요약

Anthropic의 Transformer Circuits 팀이 트랜스포머 언어 모델의 내부 연산을 역공학하기 위한 초기 수학적 프레임워크를 제시했다. GPT-3, LaMDA, Codex 등 대형 모델의 예측 불가능한 행동을 설명하기 위해 mechanistic interpretability 접근을 시도한다. 연구진은 2층 이하의 어텐션 전용 소형 트랜스포머를 대상으로 새로운 수학적 등가 관점을 적용해 내부 동작을 이해했다. 특히 "induction heads"라 명명한 어텐션 헤드가 소형 모델의 인컨텍스트 학습을 설명하며, 최소 2개 어텐션 층이 있어야 발달한다는 점을 발견했다.

핵심 포인트

• GPT-3(96층, 어텐션+MLP 교차)와 달리 2층 이하 어텐션 전용 트랜스포머를 연구 대상으로 선택
• "induction heads"가 소형 모델의 인컨텍스트 학습을 설명하며, 최소 2개 어텐션 층에서만 발달
• 트랜스포머 연산을 수학적으로 등가인 새로운 방식으로 개념화해 소형 모델 내부 동작 규명
• 후속 논문에서 이 프레임워크와 induction heads 개념이 더 크고 현실적인 모델에도 부분적으로 유효함을 보일 예정

향후 전망

• 대형 언어 모델의 안전 문제를 체계적으로 설명·예측하는 기반 마련 가능성
• 완전한 역공학에는 여전히 거리가 있으나, 점진적 확장 연구 지속 전망