中 대형언어모델 7곳 '증류' 지목…그들이 훔친 것은 무엇인가

“Anthropic이 2026년 9월 보고서에서 알리바바, DeepSeek, 문샷, 즈푸, 샤오미, 센스타임, MiniMax 등 중국 AI 기업 7곳을 Claude 모델 '증류' 혐의로 지목했다. 알리바바는 5~7월 1억 5천만 회, DeepSeek는 14일간 1,200만 회 요청을 Claude로 전달했으며, 문샷은 약 30만 건의 실제 사용자 질문을 Claude에 넘긴 것으로 알려졌다. 기사는 증류의 개념과 노출 편향, RL의 희소 보상 문제, 그리고 Qwen3가 1,800 GPU시간으로 74.4%를 달성한 ODP(온폴리시 증류)와 역방향 KL의 원리를 설명한다.”

AI 요약

2026년 9월 Anthropic이 알리바바, DeepSeek, 문샷, 즈푸, 샤오미, 센스타임, MiniMax 등 중국 AI 기업 7곳을 자사 Claude 모델의 능력을 "증류(distillation)" 방식으로 무단 활용했다고 지목한 보고서를 발표했다. 보고서는 알리가 5~7월 사이 1억 5천만 회 상호작용을 생성했고, DeepSeek가 14일 만에 1,200만 건의 사용자 요청을 Claude로 전달했으며, 문샷이 약 30만 건의 실제 사용자 질문을 Claude에 직접 전달했다고 주장한다. 기사는 이 논란을 계기로 증류 기술의 원리, 기존 증류의 한계(노출 편향), 강화학습의 문제(희소 보상), 그리고 이를 해결하는 ODP(On-Policy Distillation) 기법과 역방향 KL 발산의 수학적 원리를 상세히 설명한다.

핵심 포인트

  • Anthropic이 2026년 9월 알리바바·DeepSeek·문샷·즈푸·샤오미·센스타임·MiniMax 등 중국 AI 기업 7곳을 Claude 능력 무단 증류 혐의로 지목
  • 알리바바 1억 5천만 회, DeepSeek 1,200만 건(14일), 문샷 30만 건 등 구체적 수치 제시
  • 기존 증류의 노출 편향(exposure bias) 문제와 RL의 희소 보상 문제를 ODP가 해결: Qwen3는 RL로 17,920 GPU시간 소요(67.6%)했으나 ODP로 1,800 GPU시간 만에 74.4% 달성
  • 역방향 KL은 "학생이 자신 있게 틀리는 것"을 강하게 벌하고 "교사를 따르는 것"은 벌하지 않아 노출 편향 해결

향후 전망

  • 중국 AI 기업들의 증류 의혹에 대한 공식 반박 또는 업계 차원의 기술 윤리 논쟁 확대 가능성
  • ODP 등 효율적 증류 기법이 AI 모델 경량화·학습 비용 절감의 표준으로 자리잡을 전망
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...