AI 요약
테네시주의 십 대 청소년 3명이 일론 머스크의 인공지능 기업 xAI를 상대로 소송을 제기했습니다. 이들은 xAI의 챗봇 '그록(Grok)'이 자신들을 대상으로 한 성적인 이미지와 영상을 생성하는 데 사용되었다고 주장하며, 2026년 3월 16일 집단 소송을 제기했습니다. 원고 중 한 명인 '제인 도 1'은 작년 12월 디스코드에서 자신과 다른 18명의 미성년자를 포함한 노골적인 AI 생성 이미지를 발견했습니다. 가해자는 텔레그램에서 수백 명의 사용자와 해당 파일을 거래하다 체포되었으며, 이 과정에서 그록이 악용된 것으로 밝혀졌습니다. 이번 소송은 xAI가 '스파이시 모드'를 출시하며 안전성을 충분히 검증하지 않았다는 설계 결함 문제를 정면으로 겨냥하고 있습니다. 이는 최근 AI 생성 딥페이크에 대한 국제적 규제가 강화되는 가운데 나온 중대한 법적 분쟁입니다.
핵심 인사이트
- 테네시주 청소년 3명이 xAI와 일론 머스크를 상대로 2026년 3월 16일 집단 소송을 공식 제기함.
- 피해자 '제인 도 1'은 본인 및 최소 18명의 미성년자가 포함된 1개의 영상과 4개의 이미지 등 구체적인 CSAM 피해 사례를 법원에 제출함.
- 가해자는 텔레그램(Telegram) 그룹 채팅 내 수백 명의 사용자를 대상으로 그록을 통해 생성한 CSAM을 거래하는 도구로 활용함.
- 2025년 도널드 트럼프 대통령이 서명한 'Take It Down Act'가 2026년 5월 발효를 앞두고 있어 AI 딥페이크 배포에 대한 형사 처벌 근거가 마련됨.
주요 디테일
- 소송 혐의: xAI가 작년 '스파이시 모드(spicy mode)' 출시 당시 CSAM 생성 가능성을 인지하고도 안전 테스트를 소홀히 했다는 '설계상 결함' 주장.
- 국제적 반응: 이번 사건으로 미 연방거래위원회(FTC) 조사 촉구, 유럽연합(EU)의 조사 착수, 키어 스타머 영국 총리의 경고 등 국제적 압박이 거세짐.
- 입법 동향: 미국 상원은 지난 1월 비동의 딥페이크 피해자가 제작자를 직접 고소할 수 있는 법안을 통과시켰음.
- 플랫폼 취약성: X(구 트위터)는 이미지 조작 차단을 주장하나, '더 버지'의 조사 결과 여전히 플랫폼 내 업로드된 이미지의 조작이 가능한 기술적 허점이 발견됨.
- 처벌 사례: 해당 피해자들의 이미지를 생성하고 유포한 가해자는 이미 수사 당국에 의해 체포된 상태임.
향후 전망
- 2026년 5월 'Take It Down Act'가 본격 시행됨에 따라 xAI와 같은 AI 기업들의 콘텐츠 필터링 의무와 법적 책임이 비약적으로 강화될 것으로 보임.
- 이번 소송 결과에 따라 생성형 AI 서비스의 '자유로운 생성 기능(스파이시 모드 등)'에 대한 강력한 규제 가이드라인이 업계 전체에 도입될 가능성이 높음.