AI 요약
텔레그램 CEO 파벨 두로프는 협박범이 공개 채팅방에 아동 성착취물(CSAM)을 심어 애플 앱스토어에서 텔레그램이 일시 삭제되도록 조작했다고 주장했다. 두로프는 공격자가 AI로 변조된 불법 콘텐츠를 기존 메시지 편집 기능을 통해 삽입해 그룹 구성원들이 발견하거나 신고할 수 없게 만들었다고 설명했다. 그는 이번 사건이 사용자 생성 콘텐츠를 호스팅하는 모든 모바일 앱에 대한 시스템적 위험을 보여준다고 경고했다.
핵심 포인트
- 애플이 텔레그램에 사전 연락 없이 앱스토어에서 앱을 삭제했으며, 몇 시간 만에 복구됨
- 공격자는 AI로 변조된 불법 콘텐츠를 기존 메시지 편집을 통해 삽입, 그룹 구성원의 발견·신고를 차단
- 두로프는 "협박범이 애플을 조작해 과잉 반응을 유도하는 방법을 찾아냈다"고 비판
- 러시아는 두로프에 대해 테러 조장 혐의로 체포 영장을 발부했으며, 2024년 프랑스에서도 불법 거래 방조 혐의로 체포된 바 있음
향후 전망
- 이번 사건을 계기로 앱스토어의 사용자 생성 콘텐츠 앱에 대한 삭제 절차와 사전 통지 프로세스에 대한 논의가 촉발될 가능성
- 텔레그램은 향후 유사한 공격에 대응하기 위한 중재 도구 강화에 나설 것으로 예상