AI 요약
유럽의 AI 연구소 Desert Ant Labs가 기기 내에서 직접 실행되는 초경량·초고속 온디바이스 AI 모델 18종(안정 버전 12개, 베타 6개)을 공개했습니다. 이 모델들은 5년 된 스마트폰에서도 실행될 수 있으며, Swift·Kotlin·JavaScript용 단일 SDK로 접근 가능합니다. 대표 모델로는 iPhone에서 10분 분량 오디오를 2초 만에 전사하는 Voz(Whisper보다 4.7배 빠름), 9MB 크기의 오디오 복원 모델 Clear, 27개 언어 개인정보 마스킹 모델 Redact, 2MB 크기의 84개 언어 식별 모델 Tongue 등이 있습니다.
핵심 포인트
- Voz: iPhone에서 10분 오디오를 2초에 전사, Whisper보다 4.7배 빠르며 단어별 시작·종료 시간 제공
- Redact: 12MB 모델로 27개 언어에서 이름·주소·카드번호를 실시간 마스킹, 개인정보 탐지율 88.8% (2.3GB GLiNER-PII의 91.1%에 근접)
- Tongue: 2MB 모델로 3단어만으로 84개 언어 식별, 정확도 0.933 (293MB 탐지기의 0.887보다 높음)
- 모든 모델은 월간 활성 기기 10만 대까지 무료, 토큰·로그인 불필요
향후 전망
- 유럽의 '온디바이스 기본값' 규제 환경에서 데이터가 기기를 떠나지 않는 AI 솔루션 수요가 증가할 전망
- 클라우드 API 비용과 지연 시간 문제를 해결하는 소형 전문 모델이 앱 개발의 새로운 표준이 될 가능성
출처:hackernews