AI 요약
Anthropic이 알리바바, 문샷 AI, 딥시크 등 중국계 AI 기업들의 모델 증류(distillation) 공격을 상세히 공개했다. 이들 캠페인은 Claude의 에이전트 기능, 도구 사용, 코딩, 데이터 분석, 논리 추론 등 핵심 능력을 겨냥했다. Anthropic은 총 약 2억 건에 달하는 증류 공격 관련 교환을 5개 캠페인으로 식별했다. 알리바바 캠페인이 1억 5,100만 건으로 가장 컸으며, 문샷 AI 캠페인은 중국 군사 관련 요청까지 라우팅한 정황이 포착됐다.
핵심 포인트
- Anthropic, 5개 캠페인에서 약 2억 건의 증류 공격 교환 식별
- 알리바바 캠페인: 2026년 5~7월 1억 5,100만 건, 하루 최대 300만 건, 3,500개 계정 사용 (Qwen 모델 학습 목적 추정)
- 문샷 AI 캠페인: 10일간 5,000개 계정으로 약 30만 건 요청, 주로 Opus 모델 겨냥, 중국 군사 관련 요청 포함
- 공격자들은 번역 요청으로 위장하는 등 기법으로 모델의 사고 과정(chain of thought)을 추출 시도
향후 전망
- 미·중 AI 경쟁 심화 속 모델 증류 공격이 더 정교화·확대될 전망
- 프런티어 모델 기업들의 방어 기술 및 정책적 대응 강화가 불가피할 것으로 예상