AI 요약
AI 기반 무기 체계의 위험성과 인간의 통제 필요성을 강조하는 기사로, 가상의 미나브 초등학교 폭격 참사를 사례로 제시한다. AI 의사결정지원체계 '메이븐'이 낡은 데이터로 잘못된 표적을 추천했고, 인간의 검증 없이 공격이 실행되어 민간인 피해가 발생했다. 국제사회는 자율살상무기체계(LAWS) 규제를 논의 중이나, 규제 완화와 강화 진영 간 이견으로 합의가 어려운 상황이다.
핵심 포인트
- 가상 시나리오: AI 플랫폼 '메이븐'이 초등학교를 군사 표적으로 오인, 170명 이상 사망
- AI '환각' 현상은 전장에서 아군·민간인 오인 공격 위험을 높임
- 유엔 GGE(정부전문가그룹)는 LAWS 규제를 위한 '롤링 텍스트' 초안 작업 중
- 인간의 '유의미한 통제' 없이 AI가 자율 판단할 경우 민간인 살상 피해 확대 우려
향후 전망
- 2026년 CCW 검토회의에서 법적 구속력 있는 군축 조약 제출을 목표로 하지만, 규제 수준을 둘러싼 국제적 합의는 난항이 예상됨