AI 요약
최근 2주간 앤스로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)와 피트 헤그세스(Pete Hegseth) 국방장관은 AI의 군사적 활용을 둘러싸고 날 선 공방을 벌이고 있습니다. 앤스로픽은 자사의 AI 모델이 미국인에 대한 대량 감시나 인간의 개입이 없는 완전 자율형 살상 무기 체계에 사용되는 것을 원칙적으로 금지하고 있습니다. 반면, 국방부는 공급업체가 설정한 규칙이 국가 안보를 위한 '합법적 사용'을 가로막아서는 안 된다는 입장을 고수하고 있습니다. 아모데이 CEO는 지난 목요일, 정부로부터 '공급망 위험(supply chain risk)'으로 지정될 수 있다는 압박을 받았음에도 불구하고 기존의 안전 원칙을 굽히지 않겠다는 의지를 피력했습니다. 이번 갈등은 강력한 AI 시스템의 통제권이 기술을 개발한 민간 기업에 있는지, 아니면 이를 운용하려는 정부에 있는지에 대한 근본적인 질문을 던지고 있습니다.
핵심 인사이트
- 주요 대립 주체: 앤스로픽 CEO 다리오 아모데이와 피트 헤그세스 미 국방장관이 AI 사용 제한을 두고 정면 충돌함.
- 앤스로픽의 금기 사항: 미국인 대상 대량 감시 및 인간의 개입(human-in-the-loop)이 없는 완전 자율 무기 체계로의 활용 금지.
- 국방부의 근거: 2023년 국방부 지침(DOD directive)에 따라 특정 기준을 충족하고 고위 관리의 검토를 거친 AI 시스템은 인간 개입 없이 표적 교전이 가능함.
주요 디테일
- 정부의 압박: 국방부는 앤스로픽의 비협조가 지속될 경우 해당 기업을 '공급망 위험' 대상으로 지정하겠다고 위협함.
- 보수적인 국방 철학: 전통적인 방산 업체들과 달리 앤스로픽은 AI 기술의 고유한 위험성을 이유로 독자적인 안전장치 유지를 요구하고 있음.
- 투명성 문제: 군사 기술의 비밀스러운 특성상 AI가 살상 결정에 활용되더라도 실제 운영 단계 전까지는 외부에서 이를 인지하기 어렵다는 점이 앤스로픽의 주요 우려 사항임.
- 합법적 사용의 정의: 국방부는 법의 테두리 안에서의 모든 활용(lawful use)은 보장되어야 한다고 주장하며 민간 기업의 가이드라인 적용을 거부함.
향후 전망
- 앤스로픽의 원칙 고수가 실질적인 공급망 배제로 이어질 경우, 실리콘밸리 기술 기업과 국방부 사이의 협력 관계에 거대한 균열이 생길 수 있음.
- 이번 사건은 AI 윤리 가이드라인이 군사 작전이라는 특수한 영역에서 어느 정도의 구속력을 가질 수 있는지 판가름하는 중요한 시험대가 될 것임.