AI 요약
IFM이 6개 모델(375B-A23B, 36B-A4B, 32B, 7B, 3.7B, 0.9B)로 구성된 K2 Horizon을 공개했다. 이번 릴리스는 사전학습부터 추론·에이전트 후학습까지 전체 훈련 과정을 공개한 가장 포괄적인 오픈 모델 배포로, 중간 체크포인트·데이터·코드·설정·평가 결과·최종 가중치를 모두 포함한다. 0.9B, 3.7B, 7B 모델은 각각의 크기에서 세계 최고 성능을 달성했으며, 36B-A4B 모델은 새로운 Mixture-of-Value-Attention(MoVA) 메커니즘으로 활성 파라미터당 우수한 성능을 보여준다.
핵심 포인트
- 6개 모델이 하나의 연결된 플릿으로 엣지 디바이스부터 엔터프라이즈까지 커버
- 0.9B·3.7B·7B 모델이 각 크기 클래스에서 세계 최고 성능 기록
- Apache 2.0 라이선스로 모델·코드 공개, 데이터는 ODC-BY 등 적용 라이선스로 공개
- 에이전트 후학습 과정 전체를 공개한 최초의 오픈 모델 패밀리
향후 전망
- 에이전트 기능의 발생 과정을 연구하고 새로운 도구·환경에 적응시키는 방법론 개발에 기여할 전망
- 0.9B 모델의 워치·글래스 등 극한 제약 환경 지원으로 온디바이스 AI 시장 확대 촉진 가능성
출처:hackernews