Show HN: 125M 파라미터 AI 모델, 피아노 자동완성 기능 탑재…온디바이스로 구현

AI 요약

125M 파라미터 규모의 트랜스포머 모델을 학습시켜 iPhone 15에서 실시간(~초당 108노트)으로 피아노 연주를 자동완성하는 시스템을 개발했다. MIDI 표현 방식 최적화, 훈련 데이터 정제, DPO 후훈련(post-training)이 가장 큰 성능 향상을 가져왔다. MIDI 이벤트를 토큰화할 때 문법(grammar) 기반으로 NOTE_ON, PITCH, VELOCITY를 분리해 어휘 크기를 줄이고, 생성 시 마스킹으로 문법적 유효성을 보장한다. 개발한 앱 RollTab은 무료로 배포 중이다.

핵심 포인트

• 125M 파라미터 트랜스포머 모델, iPhone 15에서 실시간 추론(초당 108노트)
• MIDI 토큰화 시 결합 방식 대신 문법 기반 분리로 어휘 수를 16,512개에서 대폭 축소
• DPO(직접 선호 최적화) 후훈련과 공격적인 데이터 정제가 주요 성능 개선 요인
• GitHub Copilot과 유사한 '피아노 자동완성' 개념을 MIDI에 적용

향후 전망

• 온디바이스 AI 음악 생성 분야의 실용적 사례로 자리잡을 가능성
• MIDI 표현 최적화 기법이 다른 음악 AI 프로젝트에도 확산될 전망