AI 요약
세바스찬 라슈카가 OpenAI의 GPT-6 Astra 모델에 대한 인상과 함께 '루프형 트랜스포머(looped transformer)' 아키텍처의 개념을 상세히 설명합니다. Astra는 GPT-5.6 대비 모든 분야에서 성능이 향상되었으며, 특히 3D 렌더링·애니메이션 작업에서 두드러진 개선을 보였고 ARC-AGI-3 벤치마크에서 99.9%를 달성했습니다. 또한 Astra가 '추론 과정(chain of thought)'을 숨기고 있다는 루머와 관련해, 루프형 트랜스포머의 반복적 깊이(recurrent depth) 개념이 어떻게 연결되는지 최신 연구를 바탕으로 분석합니다.
핵심 포인트
- GPT-6 Astra는 ARC-AGI-3 벤치마크에서 99.9% 달성 (GPT-5.6 Sol은 7.8%에 불과)
- 3D 렌더링·애니메이션 작업에서 특히 뛰어난 성능 향상을 보이며, 코딩·수학 벤치마크에서도 최전선 수준
- 루프형 트랜스포머는 동일한 트랜스포머 블록을 반복적으로 통과시켜 계산 깊이를 늘리는 구조로, 추론 과정을 숨기는 방식과 연관될 가능성
- Artificial Analysis와 같은 독립 벤치마크가 개발사 자체 평가보다 신뢰도가 높다고 평가
향후 전망
- 루프형 트랜스포머 구조가 향후 LLM 아키텍처의 주요 패러다임으로 자리잡을 가능성
- 모델의 추론 과정을 숨기는 '숨은 사고 체인' 논쟁이 AI 투명성과 안전성 측면에서 지속될 전망