AI 요약
애플 뉴럴 엔진(ANE) 드라이버 역공학 작업을 3년 만에 재개한 개발자가 M1 ANE의 내부 아키텍처를 분석한 글이다. ANE는 2017년 A11 Bionic에 처음 탑재된 CNN 시대 특화 NPU로, 16개의 컴퓨트 코어가 MAC 배열로 구성되어 있으나 핵심은 MAC 자체가 아닌 데이터플로우에 있다. 트랜스포머의 자기회귀 디코딩이 예측 가능한 재사용 패턴을 깨뜨리면서 ANE의 한계가 드러났고, M5(2025)에서는 ANE 코어가 GPU 코어 안으로 통합되었다. 저자는 독립형 NPU의 종말이 시작되었다고 평가한다.
핵심 포인트
- ANE는 2017년 A11 Bionic에 처음 탑재된 CNN 특화 NPU로, 16개 컴퓨트 코어에 256× MAC 배열 구조
- M5(2025)의 핵심 기능은 "LLM 성능"이며, ANE 코어가 GPU 코어 내부로 통합됨
- macOS에서도 ANE는 Finder의 업샘플링 미리보기 이미지 생성 정도에만 정기적으로 사용됨
- 트랜스포머의 자기회귀 디코딩이 ANE가 활용하던 예측 가능한 재사용 패턴을 깨뜨림
향후 전망
- 독립형 NPU의 쇠퇴와 GPU 통합형 AI 가속기로의 전환이 가속화될 전망
- CNN 시대 NPU 설계 가정이 트랜스포머 워크로드에 어떻게 재편되는지가 향후 핵심 연구 주제
출처:hackernews