AI 요약
미 국방부가 AI 스타트업 앤스로픽이 군사적 모델 활용에 있어 특정 제한 사항을 고수하는 것에 대해 강력한 유감을 표명하며 사용 중단을 위협하고 있다는 소식이 전해졌습니다. 앤스로픽은 지난해 국방부와 2억 달러 규모의 계약을 체결하며 국가 안보 지원 의지를 밝혔으나, 최근 완전 자율 무기 체계와 대규모 국내 감시 기술 활용에 대해서는 단호한 선을 긋고 있습니다. 국방부 관계자들은 앤스로픽을 협력 중인 AI 기업들 중 가장 '이데올로기적'이라고 비판하면서도, 자사 모델인 '클로드(Claude)'가 경쟁사들보다 기술적으로 앞서 있다는 점 때문에 고심하고 있습니다. CEO 다리오 아모데이는 최근 팟캐스트와 에세이를 통해 인간의 개입이 배제된 AI 무기가 불법적 명령을 거부할 수 없는 상황을 경고했습니다. 특히 앤스로픽이 팔란티어(Palantir) 측에 자사 기술의 특정 작전 투입 여부를 확인하려 했다는 정황이 알려지며 양측의 긴장은 더욱 고조되는 양상입니다.
핵심 인사이트
- 2억 달러 규모의 계약 갈등: 앤스로픽은 미 국방부와 약 2,700억 원(2억 달러) 규모의 계약을 맺고 있으나, 군사적 활용 범위를 둘러싼 이견으로 계약 유지가 불투명해졌습니다.
- 자율 무기 및 감시 제한: 앤스로픽은 '완전 자율 무기(fully autonomous weapons)'와 '대규모 국내 감시(mass domestic surveillance)'에 대해 명확한 사용 제한을 요구하고 있습니다.
- 기술적 우위 인정: 국방부 내부에서는 앤스로픽의 AI 모델인 '클로드(Claude)'가 현재 다른 경쟁사들의 모델보다 성능 면에서 앞서 있다고 평가하고 있습니다.
- 헌법적 가치 강조: 다리오 아모데이 CEO는 AI 드론 스웜이 인간 병사와 달리 불법적 명령을 거부할 수 없다는 점이 민주주의의 헌법적 보호 장치를 위협할 수 있다고 주장했습니다.
주요 디테일
- 이데올로기적 기업 낙인: 익명의 국방부 소식통은 앤스로픽이 군의 모든 활동을 무조건적으로 지원하지 않는 점을 들어 이들을 지나치게 이데올로기적이라고 비난했습니다.
- 베네수엘라 작전 관련 논란: 앤스로픽은 팔란티어에 연락하여 자사의 기술이 1월 3일 발생한 미국의 베네수엘라 공격에 포함되었는지 여부를 문의한 것으로 알려졌습니다.
- 감시 시스템의 위험성: 아모데이는 AI를 통해 공공장소의 모든 대화를 기록하고 분석함으로써 특정 정치적 반대 세력을 색출하는 '대규모 감시'의 위험을 구체적으로 언급했습니다.
- 기술의 사춘기: 아모데이는 최근 발표한 에세이 'The Adolescence of Technology'를 통해 기술 발전이 인류에 미칠 실존적 위험과 책임 있는 개발의 필요성을 역설해 왔습니다.
- 시장 영향력: 앤스로픽이 '클로드 코드(Claude Code)'와 같은 신기술을 발표할 때마다 월스트리트에서 관련 기업들의 주가가 변동할 만큼 강력한 시장 지배력을 보유하고 있습니다.
향후 전망
- 군과 AI 업계의 결별 가능성: 국방부가 클로드 사용 중단을 실제로 실행할 경우, 앤스로픽의 정부 부문 매출 감소와 더불어 군의 AI 고도화 전략에 차질이 생길 수 있습니다.
- AI 윤리 가이드라인의 격돌: 향후 AI 기업들이 수익 창출을 위한 군사 협력과 기업의 윤리적 가이드라인 사이에서 선택을 강요받는 사례가 늘어날 것으로 보입니다.