미스트랄, 시계열 예측 AI 모델 '타임스트랄' 공개

“미스트랄이 첫 시계열 파운데이션 모델군 '타임스트랄'을 공개했으며, 최대 모델이 2억900만 파라미터에 불과하면서도 GIFT-Eval·TIME·fev-bench 등 3대 공개 벤치마크에서 1위를 기록해 이전 최고 성능을 모델 파라미터 3분의 2만으로 앞섰다. 500만~2억900만 파라미터의 4개 크기로 제공되며 CPU에서도 효율적으로 구동되고 과거·미래 공변량을 지원하는 확률적 다변량 예측을 수행한다. 합성 사전학습과 공변량 인지 어텐션, 장문맥 학습을 결합했고 미스트랄 포지를 통한 도메인 적응 미세조정도 가능하다.”

AI 요약

미스트랄 AI가 첫 시계열 파운데이션 모델군 '타임스트랄(Timestral)'을 공개했다. 최대 모델이 2억900만 파라미터에 불과한데도 GIFT-Eval, TIME, fev-bench 등 3대 공개 벤치마크에서 모두 1위를 기록하며 기존 최고 성능 모델을 파라미터 3분의 2 수준으로 앞섰다. 확률적 다변량 예측과 과거·미래 공변량(covariate) 지원이 특징이며, 500만~2억900만 파라미터의 4개 크기로 제공돼 CPU에서도 효율적으로 구동된다. 합성 데이터 사전학습과 장문맥 학습을 결합했고, Mistral Forge를 통한 도메인 적응 파인튜닝도 지원한다.

핵심 포인트

  • 최대 모델 209M 파라미터로 GIFT-Eval·TIME·fev-bench 3개 벤치마크 전 항목 1위
  • 앙상블 없이 단일 체크포인트로 5개 지표 모두 선도
  • 5M~209M 파라미터 4개 사이즈, 정확도-모델 크기 파레토 프론트 구현
  • 제로샷 예측으로 데이터가 부족한 도메인까지 커버

향후 전망

  • 에너지·공급망·금융 리스크 등 엔터프라이즈 예측 시장에서 경량 모델 채택 확대
  • GIFT-Eval·TIME 리더보드 제출 결과에 따라 시계열 파운데이션 모델 경쟁 심화
출처:Hacker News / Mistral AI
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...