AI 요약
Microsoft Paint와 사진 앱이 로컬에서 생성한 AI 이미지에 서버에서 발급된 GUID를 보이지 않는 워터마크로 픽셀에 삽입하는 것이 리버스 엔지니어링을 통해 밝혀졌습니다. Paint와 사진 앱은 로컬 AI 모델을 탑재하고 있지만, 프롬프트는 원격 서버로 전송되어 검열을 거치며, 이 과정에서 GUID가 반환되어 이미지에 은밀히 삽입됩니다. Copilot+ PC에서는 이미지 생성이 로컬에서 이루어지지만 프롬프트 검열은 여전히 원격으로 수행됩니다. Microsoft는 AI 생성 이미지에 C2PA 메타데이터를 추가한다고 공개했지만, 별도의 가시적 워터마크 설정과 이 보이지 않는 워터마크는 별개로 동작합니다.
핵심 포인트
- Paint 앱 경로:
C:\Program Files\WindowsApps\Microsoft.Paint_11.2605.71.0_x64__8wekyb3d8bbwe\PaintApp\에 4개의 ONNX 모델 파일(seg, inseg_enc, inseg_dec, mager) 존재 - .onnxe 파일은 XOR 키(
Microsoft_2023또는 4,096바이트 영숫자 문자열)로 암호화되어 있으며, 해독 시 정상 ONNX 파일로 확인됨 - 서버가 검열된 프롬프트와 함께 GUID를 반환하고, 이 GUID가 로컬 생성 이미지에 보이지 않는 워터마크로 삽입됨
- AI 생성 이미지 저장은 C2PA 메타데이터를 보존하는 형식(PNG, JPEG, GIF, .paint)으로 제한됨
향후 전망
- AI 생성 콘텐츠의 출처 추적 및 검증을 위한 워터마킹 기술이 더욱 정교해질 것으로 예상됨
- 사용자 프라이버시와 콘텐츠 투명성 사이의 긴장 관계에 대한 논의가 확대될 가능성