AI 요약
Fireworks Research가 Kimi K3 기반의 특화 모델 'Ember-1'을 공개했다. Ember-1은 Kimi K3의 품질을 유지하면서 토큰 사용량을 40% 줄인 것이 특징으로, 불필요한 추론을 제거하되 중요한 사고 과정은 보존하도록 학습됐다. Fireworks 팀은 50개 이상의 훈련 실험과 200개 이상의 평가를 수행하며 정확도 손실 없이 추론을 단축하는 새 훈련 알고리즘을 개발했다. Ember-1은 Fireworks Serverless Training으로 개발되어 GPU 프로비저닝 없이 연구에서 출시까지 시간과 비용을 절감했다.
핵심 포인트
- Ember-1은 Kimi K3 대비 40% 적은 토큰으로 동등한 품질 제공
- 50개 이상 훈련 실험, 200개 이상 평가 수행하며 새 훈련 알고리즘 개발
- 추론 모델은 생성 토큰의 90% 이상을 내부 추론에 소비, 멀티턴 에이전트 워크로드에서 컨텍스트가 턴 수에 따라 이차함수적으로 증가
- Fireworks Serverless Training으로 GPU 관리 없이 연구에서 출시까지 기간·비용 대폭 단축
향후 전망
- Ember-1을 시작으로 Fireworks Research의 특화 모델 시리즈 지속 출시 예정
- Fireworks Training 플랫폼을 통한 개발자 맞춤형 모델 구축 확대 전망
출처:hackernews