AI 요약
미국 백악관이 인공지능 스타트업 앤트로픽의 첨단 AI 시스템인 '미토스(Mythos)'에 수출 규제를 가한 배경에 중국 연계 그룹의 무단 접근 우려가 작용했다는 분석이 제기되었습니다. 미디어 매체 세마포르(Semafor)의 보도에 따르면, 중국 정부가 앤트로픽의 고성능 모델인 '미토스 5(Mythos 5)'나 '페이블 5(Fable 5)'에 실제로 접근했을 가능성이 있으며, 이는 심각한 국가 안보 위험을 초래할 수 있습니다. 특히 우려되는 점은 중국이 고급 AI의 데이터와 거동을 학습해 자체 AI 성능을 모방하는 '증류(distillation)' 기법으로 기술을 역공학하는 시나리오입니다. 이에 대해 백악관은 공식적인 확인을 아꼈고, 도널드 트럼프의 고문인 데이비드 삭스(David Sacks)는 중국 배후설 대신 시스템 탈옥(jailbreak) 가능성만을 언급했으나 앤트로픽은 이를 부인했습니다. 앤트로픽 측은 과거에 '미토스' 모델이 너무 위험하여 일반 공개를 제한했음에도 불구하고 한 디스코드(Discord) 그룹에 의해 2주간 무단 유출되었던 보안 실패 전례가 있어 우려를 더하고 있습니다.
핵심 인사이트
- 중국 연계 그룹의 접근 의혹: 백악관이 앤트로픽의 '미토스' 모델에 수출 통제 조치를 내린 이면에 중국 정부와 연계된 세력의 기술 유출 시도가 있었다는 정황이 포착되었습니다.
- 증류(Distillation) 기법을 통한 역공학: 고도화된 '스승' 격인 미토스 모델의 결과물을 활용해 '제자' 격인 중국 자체 AI를 신속히 학습시키는 역공학 우려가 현실화되고 있습니다.
- 보안 취약 전례 규명: 앤트로픽은 미토스 모델이 외부 공개용이 아니라고 선을 그었으나, 한 디스코드 그룹이 발견 전까지 약 2주 동안 시스템에 무단 접근했던 과거 보안 사고가 재조명되었습니다.
주요 디테일
- 세마포르(Semafor)의 최초 보도: 이번 의혹은 세마포르의 심층 보도를 통해 수면 위로 올랐으며, 미국 국가 안보 부서가 AI 유출 경로를 추적하는 과정에서 드러났습니다.
- 데이비드 삭스(David Sacks)의 개입: 트럼프의 핵심 고문인 데이비드 삭스는 X(구 트위터)를 통해 페이블과 미토스의 탈옥(Jailbreak) 결함을 집중 부각했으나, 앤트로픽 측은 이 주장을 즉각 반박했습니다.
- 수출 통제 협의 과정: 앤트로픽 대변인에 따르면, 미국 정부와의 공식 수출 규제 논의 단계에서 중국 관련 이슈가 공식적으로 테이블 위에 올라온 적은 없었다고 해명했습니다.
- 무단 유출 모델의 위험성: 앤트로픽이 대중에게 공개하기에 너무나도 위험하고 강력하다고 규정한 미토스 5 및 페이블 5 등의 유출은 글로벌 AI 패권 경쟁 구도를 흔들 수 있는 사안입니다.
향후 전망
- 미·중 기술 안보 갈등 고조: 미국 정부는 자국의 첨단 프라이빗 AI 모델 가중치(weights)를 국가 핵심 자산으로 지정하고, 해외 유출을 원천 봉쇄하기 위한 규제 법안을 대폭 강화할 것으로 예상됩니다.
- 빅테크 기업의 보안 인프라 재정비: 디스코드 무단 유출 사건과 같은 취약점을 막기 위해 앤트로픽을 비롯한 주요 인공지능 개발사들은 내부 망 분리 및 AI 모델 접근 제어 시스템에 대대적인 투자를 감행할 수밖에 없을 것입니다.