AI 요약
캘리포니아공대(Caltech) 연구진이 설립하고 UC버클리의 Ion Stoica가 자문을 맡은 AI랩 프리즘ML(PrismML)이 퀄컴 스냅드래곤 칩에서 구동되는 스마트 안경용 초소형 언어모델을 공개했다. 퀄컴 스냅드래곤 서밋에서 선보인 1비트 'Bonsai' LLM은 스냅드래곤 AR1 Gen 1 플랫폼 기반 스마트 안경에서 로컬로 실행 가능하다. 이 모델은 기존 대형 모델을 4배 축소하면서도 벤치마크 성능을 거의 유지한다. 착용자가 실시간으로 보고 있는 것을 질문할 수 있도록 비전·언어에 특화된 20억 파라미터 모델이다.
핵심 포인트
- 프리즘ML은 Caltech 연구진이 설립, UC버클리 Ion Stoica가 자문
- 1비트 Bonsai LLM을 퀄컴 스냅드래곤 AR1 Gen 1 플랫폼에서 로컬 구동 시연
- 모델을 4배 축소하면서 표준 벤치마크 성능 대부분 유지, 20억 파라미터 비전·언어 특화 모델
- 아직 프리즘ML을 탑재한 스마트 안경 제품은 발표되지 않음
향후 전망
- 독점 AI랩의 프라이버시 정책과 막대한 컴퓨팅 수요에 의존하지 않는 온디바이스 오픈웨이트 AI 생태계 확산을 목표
- 퀄컴 칩용 모델 출시를 발판으로 향후 실제 스마트 안경 제품 탑재가 기대됨