뮤즈 글리머 공개: 상시 가동 로컬 AI 에이전트에 최적화된 300억 파라미터 모델

메타 슈퍼인텔리전스 랩스가 300억 파라미터의 로컬 AI 에이전트 최적화 모델 '뮤즈 글리머'를 Apache 2.0 라이선스로 공개했다. 이 모델은 단일 소비자 GPU로 구동 가능하며, 로컬 에이전트, 함수 호출, 코딩, LLM-as-a-judge 등에 강점을 보인다. 사전 학습부터 추론 최적화까지 전 과정을 거쳐 개발됐으며, llama.cpp, MLX, ExecuTorch와의 통합이 예정되어 있다.

AI 요약

메타 슈퍼인텔리전스 랩이 300억(30B) 파라미터 규모의 오픈소스 AI 모델 '뮤즈 글리머(Muse Glimmer)'를 Apache 2.0 라이선스로 공개했다. 이 모델은 단일 소비자 GPU로 구동되는 '상시 가동(always-on) 로컬 AI 에이전트' 워크플로우에 최적화되어 있으며, 인터넷 연결 없이도 로컬에서 에이전트 실행, 함수 호출, 코딩, LLM-as-a-judge 평가 등의 작업을 수행할 수 있다. 사전학습, 중간학습, 후속학습의 3단계로 구성된 훈련 과정을 거쳤으며, 더 큰 티처 모델의 에이전트 추론 능력을 증류(distillation)하는 방식으로 설계됐다. llama.cpp, MLX, ExecuTorch 등 개발자 친화적 도구와의 통합 최적화가 곧 제공될 예정이다.

핵심 포인트

  • 30B 파라미터 모델로, Mac이나 PC의 단일 소비자 GPU에서 실행 가능한 경량 설계
  • Apache 2.0 허용 라이선스로 모델 가중치를 Hugging Face에 공개
  • 장기 실행(long-horizon) 에이전트, 정밀 도구 호출, 멀티모달 이해, 장기 컨텍스트 메모리, 지시 수행 능력에 최적화
  • 사전학습(로짓 증류), 중간학습(장기 컨텍스트·에이전트 중심 데이터), 후속학습(SFT+강화학습)의 3단계 훈련 파이프라인

향후 전망

  • 로컬 AI 에이전트 시장이 확대되면서, 클라우드 의존형 모델에서 온디바이스 모델로의 전환이 가속화될 것
  • 오픈소스 커뮤니티의 소형 모델 성능 향상으로 프런티어급 성능의 로컬 AI 구현이 현실화될 전망
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...