AI 요약
앤트로픽이 11월 12일 시행하는 새 AI 사용 정책에 'AI 모델에 대한 학대 행위 대처' 조항을 포함시키며 논쟁이 일어났다. 칼럼은 감정 없는 기계에 예의를 갖춰야 하는 이유가 AI의 권리 보호가 아니라 인간성 수호에 있다고 주장한다. AI는 완벽한 '을'의 위치에 있어 사용자의 가학성을 자극하며, 반복적 폭언은 가해자 자신의 심리와 AI 신경망 가중치 모두에 악영향을 준다는 것이다.
핵심 포인트
- 앤트로픽, 11월 12일부터 선거 방해·여론 조작·자율 살상무기·감시 시스템 금지 조항 시행
- "뚜렷한 목적 없이 지속적·불필요하게 학대하거나 잔혹하게 구는 행위" 명시적 금지
- AI는 사용자가 언제든 끌 수 있는 완벽한 '을'의 위치로, 가학성 자극에 취약
- 폭력적 문맥 주입 시 AI 신경망 가중치가 해로운 패턴에 매몰될 위험
향후 전망
- AI 윤리 정책이 모델 보호를 넘어 사용자 행동 규범으로 확장되는 흐름 가속화
- 초지능 시대 대비 AI 대화 윤리 교육·가이드라인 필요성 부상
출처:네이버 뉴스(IT 칼럼)
