AI 요약
오픈AI가 EU AI법 준수를 위해 유럽연합 내 ChatGPT와 Codex가 생성한 텍스트에 보이지 않는 워터마크를 도입한다. 8월 2일 발효된 EU AI법 투명성 규칙은 AI 생성 콘텐츠를 다른 시스템이 식별할 수 있게 표시하도록 요구한다. 워터마크는 실제 기호가 아니라 모델의 단어 선택을 미묘하게 조정해 탐지기가 인식할 수 있는 패턴을 남기는 방식이다. 오픈AI는 textGrain이라는 기술 보고서를 공개했으며, 펜실베이니아대·예일대 연구진과 공동 작성했다.
핵심 포인트
- EU 내 ChatGPT·Codex 사용자에게 수 주 내 워터마크 적용, API는 전 세계 개발자가 선택적으로 활성화 가능(기본 비활성)
- 워터마크는 단어 선택 패턴에 내재되어 복사·붙여넣기 시에도 유지되며, 사용자를 식별하지 않음
- 테스트 결과 단어 10%를 동의어로 교체 시 탐지율이 약 92%에서 66%로 하락
- 짧은 문장·수학 답변·번역문은 탐지가 어려워 초기에는 승인된 연구자와 전문 기관에만 탐지기 제공
향후 전망
- 앤스로픽이 전 세계적으로 Claude 텍스트 워터마킹을 시행한 가운데, 오픈AI의 글로벌 확대 여부 주목
- 워터마크 미탐지가 인간 작성 증명은 아니라는 한계로 인해 탐지 신뢰성 논란 지속 가능