기억의 청구서와 노래하는 오픈소스AI [정원훈의 AI 트렌드]

“허깅페이스 9월 3주차 트렌딩 1위는 딥시크의 DeepSeek-V4.1-Flash로, 총 5520억 파라미터 멀티모달 모델이지만 읽기 80억·쓰기 160억 파라미터만 활성화하고 토큰당 기억 비용을 890바이트(1세대 대비 437분의 1)로 줄였으며 MIT 라이선스다. 2위는 등록 멤버 3명뿐인 팀이 올린 350억 파라미터 MoE 모델 Edge0-35B-A3B-preview로, 4비트 압축 가중치(19.7GB)를 SSD에 두고 활성 파라미터 30억만 스트리밍해 3GiB 이하 메모리에서 초당 15토큰 생성·140토큰 읽기를 주장한다. 스페이스에서는 수노 v5와 맞먹는다는 30억 파라미터 오픈 음악 모델 위에2(YuE2)와 브라우저 속 코딩 에이전트로 재탄생한 미니CPM5-2B가 주목받았다.”

AI 요약

허깅페이스 트렌드 분석에 따르면 이번 주 키워드는 '파라미터 수가 아니라 기억의 청구서', '악보를 그리며 작곡하는 AI', '설치 없이 브라우저에서 사는 에이전트'다. 트렌딩 1위는 딥시크의 5520억 파라미터 멀티모달 모델 'DeepSeek-V4.1-Flash'로, KV 캐시를 토큰당 890바이트까지 압축해 1세대 대비 437분의 1로 줄였다. 2위는 350억 파라미터 MoE 모델 'Edge0-35B-A3B-preview'로, 활성 메모리 3GiB 이하에서 구동을 주장한다. 스페이스 부문에서는 오픈 음악 생성 모델 'YuE2'와 중국 스텝펀의 음악 모델 스튜디오가 주목받았다.

핵심 포인트

  • DeepSeek-V4.1-Flash: 총 5520억 파라미터, 문맥 창 100만 토큰, 학습량 45조 토큰, MIT 라이선스, 읽기 80억·쓰기 160억 파라미터만 활성화
  • KV 캐시 토큰당 890바이트로 압축(1세대 대비 437분의 1), 소프트웨어 수정 시험 74.2%·터미널 작업 시험 90.6% 기록(자체 평가)
  • Edge0-35B-A3B-preview: 4비트 압축 가중치 19.7GB를 SSD에 두고 필요 전문가만 스트리밍, 초당 15토큰 생성·140토큰 읽기
  • YuE2: 30억 파라미터 오픈 음악 생성 모델, 자체 벤치마크에서 수노 v5 능가 주장, ABC 기보 편곡 기능 지원

향후 전망

  • 대형 모델의 경쟁축이 파라미터 규모에서 메모리 효율·추론 비용 절감으로 이동하며 개인용 기기 구동 가능성이 확대될 전망
  • 오픈소스 음악 생성 AI의 등장으로 콘텐츠 창작 생태계에 새로운 변화가 예상되나, 저작권·품질 검증 이슈가 과제로 남을 것
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...