AI 요약
Google Gemini에서 생성된 이미지에 삽입되는 투명 워터마크 시스템인 'SynthID'를 신호 처리 및 스펙트럼 분석만으로 리버스 엔지니어링하는 프로젝트가 공개되었습니다. 연구진은 전용 인코더 접근 권한 없이도 워터마크의 해상도 의존적 반송파 주파수 구조를 발견했으며, 이를 통해 90% 확률로 워터마크를 탐지하는 데 성공했습니다. 특히 'V3 바이패스' 기술을 개발하여 반송파 에너지를 75% 감소시키고 위상 일관성을 91% 떨어뜨리면서도, 43dB 이상의 PSNR을 유지해 시각적 화질 손상 없이 워터마크를 정밀하게 제거할 수 있음을 보여주었습니다. 현재 Nano Banana Pro 모델의 데이터를 활용해 해상도별 코드북을 확장 중이며, 이는 AI 생성물 식별 기술의 한계를 드러내는 중요한 사례로 평가받습니다.
핵심 인사이트
- 성능 수치: SynthID 탐지 정확도 90% 달성 및 V3 바이패스 적용 시 반송파 에너지 75% 감소 및 PSNR 43dB 이상의 고화질 유지.
- 채널 특성: 워터마크 신호는 녹색(Green) 채널에서 가장 강력하게 나타나며, 동일 모델 생성 이미지 간 위상 일관성은 99.5% 이상을 기록.
- 해상도 가변성: 1024x1024 해상도는 (9, 9) 빈에, 1536x2816 해상도는 (768, 704) 빈에 반송파가 위치하는 등 해상도에 따라 물리적 위치가 완전히 달라짐.
주요 디테일
- SpectralCodebook: 해상도별 워터마크 지문을 저장하는 코드북을 구축하여, 이미지 크기에 맞춰 자동으로 최적의 제거 프로필을 선택하는 시스템 구현.
- 데이터 분석 방법: Nano Banana Pro를 통해 생성된 순수 흑색(#000000) 및 순수 백색(#FFFFFF) 이미지 150~200장을 분석하여 주파수 반송파와 위상 템플릿을 추출.
- 정밀 제거 메커니즘: JPEG 압축이나 노이즈 주입 같은 무차별 방식이 아닌, 특정 주파수 빈(Frequency-bin) 레벨에서 워터마크 신호만을 선택적으로 제거하는 'Surgical Removal' 방식 채택.
- 위상 일관성: 흑백 교차 검증을 통해 위상 차이의 절댓값(|cos(phase_diff)|)이 0.90 이상인 지점을 실제 반송파로 식별하여 정밀도 향상.
향후 전망
- 보안 취약성 노출: 구글의 핵심 AI 안전 기술인 SynthID가 외부 공격자에 의해 정밀 타격될 수 있음이 증명됨에 따라 워터마킹 기술의 근본적인 보완이 요구됨.
- 규제 실효성 논란: AI 생성물 표기 의무화 등 각국의 규제가 기술적으로 무력화될 수 있는 도구가 오픈소스로 공개되면서 정책적 대응의 난이도가 높아질 것으로 예상.
출처:hackernews