AI 요약
구글이 구글어스에서 텍스트 프롬프트로 위성 이미지를 편집할 수 있는 AI 기능을 출시한 지 하루 만에 폐기했다. 이 기능은 사용자가 AI를 이용해 현실 세계의 딥페이크 이미지를 사실상 만들 수 있게 해주었으며, 실제로 한 연구원은 멕시코 국경의 난민, 가자지구 병원의 폭탄 크레이터 등의 이미지를 의도적으로 생성해 문제점을 입증했다. 구글은 초기에 디지털 워터마크와 유해 주제 차단 기능을 제공한다고 밝혔지만, AI 탐지 도구를 속일 수 있다는 사실이 확인되면서 기능을 롤백했다.
핵심 포인트
- 구글이 2026년 7월 31일(목) 출시한 구글어스 AI 이미지 생성 기능(나노 바나나 2 기반)을 하루 만에 폐기
- 디지털 디깅(Digital Digging)의 헹크 반 에스(Henk van Ess)는 멕시코 국경 난민, 가자 병원 폭탄 크레이터 등 유해 이미지를 의도적으로 생성하는 데 성공
- 반 에스는 구글어스에서 생성한 비디오로 Hive의 AI 탐지 도구를 속이는 데 성공, 워터마크에도 불구하고 생성 미디어가 확산될 수 있음을 입증
- 구글은 "사람들이 구글어스를 신뢰한다는 점을 알고 있다"며 "더 강력한 안전장치를 구현하는 동안 기능을 롤백한다"고 공식 발표
향후 전망
- 구글의 이번 결정은 AI 이미지 생성 기술이 지리공간 데이터와 결합될 때의 위험성을 보여주는 사례로, 향후 AI 생성 콘텐츠 검증 기술과 정책 개발이 시급해질 전망
- AI 탐지 도구의 한계가 드러나면서, 워터마크만으로는 딥페이크 확산을 막을 수 없다는 인식이 확산되고 규제 강화 논의가 본격화될 것으로 예상