AI 요약
AMD의 최신 GPU에 탑재된 행렬 곱셈기(Matrix Core)는 IEEE 754 부동소수점 표준을 따르지 않아 벤더·아키텍처별로 누산기 폭, 반올림 방식, 서브노멀 처리 등이 제각각이다. 이로 인해 소규모 행렬 연산 결과의 재현성이 보장되지 않으며, 구현 세부사항이 문서화되지 않아 결과 차이를 해석하기 어렵다. 연구팀은 CDNA 1·2·3 아키텍처(MI100, MI210/250, MI300A/300X)를 대상으로 수치적 특성을 규명하고, MATLAB 기반 소프트웨어 모델을 개발해 1,000만 개 무작위 입력에 대해 비트 단위 재현성을 검증했다. 이 모델을 활용해 AMD Matrix Core와 NVIDIA Tensor Core 간 애플리케이션 수준 정확도 차이도 정량화했다.
핵심 포인트
- AMD CDNA 1·2·3 아키텍처(MI100, MI210/250, MI300A/300X)의 행렬 곱셈기 수치 동작을 체계적으로 규명
- 1,000만 세트 무작위 입력 벡터로 비트 단위 재현성 검증 완료
- MATLAB 기반 소프트웨어 모델 개발로 하드웨어 동작을 정확히 시뮬레이션
- AMD Matrix Core와 NVIDIA Tensor Core의 애플리케이션 수준 정확도 차이를 정량적으로 비교
향후 전망
- 행렬 곱셈기 비표준 부동소수점 동작에 대한 재현성 문제가 과학 컴퓨팅·머신러닝 분야에서 중요한 이슈로 부각될 전망
- 이 모델이 이기종 GPU 간 수치 결과 차이 분석 및 소프트웨어 검증 도구로 활용될 가능성
출처:Hacker News (arXiv)