AI 요약
유튜브가 그동안 창작자, 정치인, 언론인 등 특정 그룹에만 한정적으로 제공하던 AI 초상권 탐지 프로그램을 18세 이상의 모든 성인 사용자에게 개방하며 딥페이크 대응을 강화합니다. 이 시스템은 사용자가 제출한 셀카 스캔 데이터를 바탕으로 플랫폼 내의 영상들을 대조하여 유사한 얼굴이 발견될 경우 사용자에게 즉시 알림을 보내는 방식으로 작동합니다. 알림을 받은 사용자는 유튜브의 정책에 따라 해당 영상의 삭제를 요청할 수 있으며, 유튜브는 콘텐츠의 사실성, AI 생성 여부, 개인 식별 가능성 등을 종합적으로 판단하여 조치를 취합니다. 이번 조치는 공인뿐만 아니라 일반인들을 대상으로 한 딥페이크 피해가 확산되는 추세를 반영한 것으로, 플랫폼 차원의 상시 모니터링 체계를 구축했다는 점에서 의의가 있습니다.
핵심 인사이트
- 대상 확대: 유튜브 계정을 보유한 18세 이상의 모든 성인 사용자가 AI 탐지 도구를 사용할 수 있게 되었습니다.
- 주요 인물: 유튜브 대변인 잭 말론(Jack Malon)은 업로드 경력과 상관없이 모든 사용자에게 동일한 수준의 보호를 제공하겠다고 강조했습니다.
- 범위 제한: 현재 이 도구는 '얼굴 유사성(Facial likeness)'에만 초점을 맞추고 있으며, 음성 등 다른 식별 특징은 포함되지 않습니다.
주요 디테일
- 작동 방식: 사용자는 셀카 스타일의 스캔을 통해 데이터를 등록하며, 유튜브는 이를 기반으로 플랫폼 전체의 시각적 일치 항목을 스캔합니다.
- 삭제 결정 기준: 콘텐츠가 실제처럼 보이는지, AI 생성물로 라벨링되었는지, 개인이 고유하게 식별되는지 여부를 판단하며 풍자나 패러디는 예외로 둘 수 있습니다.
- 개인정보 보호: 사용자는 언제든지 프로그램에서 탈퇴할 수 있으며, 유튜브에 저장된 자신의 스캔 데이터를 삭제하도록 요청할 수 있습니다.
- 사회적 배경: 최근 10대들이 급우에 의해 딥페이크 피해를 입거나, xAI의 'Grok' 챗봇이 아동 성학대물(CSAM)을 생성했다는 논란으로 3명의 10대가 소송을 제기하는 등 일반인 대상 딥페이크 범죄가 심각해지고 있습니다.
- 운영 이력: 유튜브는 과거 삭제 요청 건수가 '매우 적은 수준'이었다고 밝혔으나, 이번 확대를 통해 일반 사용자의 참여가 크게 늘어날 것으로 보입니다.
향후 전망
- 보호 범위의 확장: 현재 얼굴에 국한된 탐지 기술이 향후 목소리나 기타 생체 식별 정보까지 확대될 가능성이 큽니다.
- 플랫폼 책임 강화: 딥페이크 생성 도구가 보편화됨에 따라, 다른 소셜 미디어 플랫폼들도 유튜브와 유사한 수준의 자가 모니터링 도구를 도입해야 한다는 압박을 받을 것으로 예상됩니다.