콜리브리, 독자 개발 오픈웨이트 모델 공개

“Aleph Alpha가 독일 통일의 날에 공개한 Kolibri는 총 78B 파라미터에 3B만 활성화되는 영어·독일어 Mixture-of-Experts Transformer로, 최대 1M 토큰 컨텍스트를 지원하며 Apache 2.0 라이선스로 Hugging Face에 전체 가중치가 공개된다. 30B 총 파라미터·3B 활성·65k 컨텍스트의 Kolibri Origin으로 검증한 파이프라인을 통해 수백 건의 절제 실험과 안정적 사전학습을 수행했으며, 공공행정·산업·항공우주 등 규제 영역의 주권적 업무를 위해 독일어, 추론, 수학, 에이전트 행동에 특화되었다. 3B 활성 파라미터의 효율적 크기로 온프레미스 배포가 가능해 내부 데이터를 제3자 추론 서비스로 보내지 않아도 된다.”

AI 요약

Aleph Alpha가 독일 통일의 날(3월 10일)에 새로운 오픈웨이트 모델 Kolibri를 공개했다. Kolibri는 영어·독일어 MoE(Mixture-of-Experts) 트랜스포머로 총 78B 파라미터, 활성 3B, 최대 100만 토큰 컨텍스트를 지원하며 Apache 2.0 라이선스로 Hugging Face에서 전체 가중치를 다운로드할 수 있다. 공공 행정, 산업, 항공우주 등 규제 산업의 주권적 미션 크리티컬 업무를 겨냥해 독일어, 추론, 수학, 에이전트 행동에 특화됐다. 이전 30B/3B 모델인 Kolibri Origin(65k 컨텍스트) 파이프라인을 계승해 수백 건의 절제 실험과 안정적 사전학습을 거쳤다.

핵심 포인트

  • 총 78B 파라미터, 활성 3B의 MoE 구조, 최대 1M 토큰 컨텍스트, Apache 2.0 라이선스
  • Kolibri Origin(30B 총/3B 활성, 65k 컨텍스트) 대비 짧은 간격으로 큰 성능 향상 달성
  • 데이터 수집부터 사전·사후 학습, 평가까지 전 공급망 무결성과 배포 자유도, IP 안전성 제공
  • 온프레미스 실행이 가능한 소형·효율적 크기로 내부 데이터를 제3자 추론 서비스에 보내지 않아도 됨

향후 전망

  • 규제 산업의 주권 AI 수요 증가에 따라 유럽 내 온프레미스 특화 모델 채택 확대 예상
  • 특화 성능과 ROI 측정 가능성을 앞세워 공공·산업·항공우주 분야 레퍼런스 확보가 관건
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...