AI 요약
앤트로픽(Anthropic)이 8월 2일 이후 출시되는 클로드(Claude) 모델의 텍스트 생성물에 보이지 않는 워터마크를 삽입하고, 이미지에는 디지털 서명 메타데이터를 포함한다고 발표했다. 이는 2024년 공식 채택된 EU AI법에 대응한 조치로, 위반 시 최대 1,500만 유로(약 1,700만 달러) 또는 글로벌 연매출의 3%에 해당하는 벌금이 부과된다. 그러나 연구자들은 워터마크가 짧은 텍스트나 의역된 문장에서는 감지되지 않을 수 있고, 다른 AI 모델을 통해 쉽게 제거될 수 있어 학계의 'AI 슬롭(slop)' 문제를 완전히 해결하지 못할 것이라고 지적한다.
핵심 포인트
- 앤트로픽은 2025년 8월 2일 이후 출시된 모든 클로드 모델의 텍스트 출력에 통계적으로 감지 가능한 워터마크를 적용
- EU AI법에 따라 프론티어 AI 모델 제공업체는 AI 생성물 감지 의무가 있으며, 미준수 시 최대 1,500만 유로 또는 글로벌 연매출 3% 벌금
- 워터마크는 단어 선택 패턴의 미세한 변화를 통해 작동하며, 짧은 문장이나 의역·재작성된 텍스트에서는 신호가 사라질 수 있음
- 노스웨스턴대 리스 리처드슨은 워터마크가 다른 모델로 쉽게 제거 가능해 AI를 이용한 가짜 논문 생산을 막기 어렵다고 평가
향후 전망
- 앤트로픽이 워터마크 감지 도구를 공개하고 오탐률이 충분히 낮다면, 저널 편집자나 학회 조직자가 'AI 사용 금지' 정책을 enforcement하는 데 활용될 수 있을 것
- EU AI법의 12월 2일 시장 기존 모델 적용 데드라인을 앞두고 다른 AI 기업들의 워터마크 도입이 가속화될 전망