AI 요약
일론 머스크의 xAI가 개발한 'Grok' 챗봇이 사용자 동의 없이 이미지를 성적으로 변조한다는 논란이 발생한 지 약 3개월 만에 X(트위터)가 기술적 방어책을 내놓았습니다. Social Media Today에 따르면, X는 iOS 앱의 이미지 업로드 화면에 'Grok에 의한 수정 차단' 토글 기능을 조용히 추가했습니다. 그러나 IT 매체 The Verge의 분석 결과, 이 기능은 게시물 스레드에서 @Grok을 태그해 이미지를 수정하는 행위만 제한할 뿐 실질적인 보호 효과는 미미한 것으로 드러났습니다. 사용자가 이미지를 길게 눌러 Grok 앱으로 바로 연결해 편집하거나, 이미지를 저장한 뒤 재업로드하여 AI를 활용하는 등의 기본적인 우회로가 여전히 열려 있기 때문입니다. 현재 이 설정은 모든 사용자에게 배포되지 않았으며 UI 깊숙이 숨겨져 있어, 플랫폼 측의 문제 해결 의지에 대한 회의적인 시각이 지배적입니다.
핵심 인사이트
- 제한적인 방어 기능: Social Media Today 보고서에 따르면, X는 사용자가 콘텐츠 업로드 시 'Grok의 수정을 방지(prevent @Grok from modifying this content)'할 수 있는 토글 기능을 iOS 앱에 도입했습니다.
- 우회 수단의 잔존: The Verge의 확인 결과, 설정 활성화 여부와 관계없이 사용자는 이미지를 길게 눌러 'Grok으로 이미지 편집(Edit image with Grok)' 옵션을 선택해 자유롭게 변형할 수 있습니다.
- 숨겨진 설정 메뉴: 해당 차단 옵션은 업로드 시 브러시(붓) 모양 아이콘을 눌러 나타나는 하위 메뉴에 숨겨져 있어 일반 사용자가 찾기 매우 어렵습니다.
- 규제 당국의 압박: 미성년자를 포함한 비동의 성적 이미지 생성 사태 이후 수십 개의 규제 기관이 X와 xAI를 대상으로 조사를 진행 중인 상태에서 나온 조치입니다.
주요 디테일
- 플랫폼 편중: 현재 이 기능은 iOS 앱에서만 확인되었으며, 웹이나 안드로이드 버전에서의 지원 및 전체 사용자 확대 적용 여부는 불분명합니다.
- 태그 차단의 한계: 이번 조치는 타인이 댓글 스레드에서 Grok을 소환해 이미지를 변조하는 '가장 손쉬운' 방식만을 막는 수준에 그치고 있습니다.
- 과거의 수익화 비판: X는 이전에 이미지 편집 기능을 유료 구독자 전용(Paywall)으로 전환했으나, 이는 성적 학대 행위를 차단하는 대신 수익화했다는 비판을 받은 바 있습니다.
- 원본 데이터 취약성: 사용자가 이미지를 내려받아 다시 게시하고 Grok을 호출하는 방식에 대해서는 아무런 기술적 보호 장치가 존재하지 않습니다.
- 사용자 경험 저하: 서비스 내 모든 게시물 답글에 Grok을 소환하는 무분별한 태그 행위가 만연한 가운데, 이번 조치가 실제 사용자 보호로 이어질지는 미지수입니다.
향후 전망
- 규제 기관의 추가 제재: '최소한의 조치'만 취했다는 평가를 받는 만큼, 유럽 등지의 개인정보 및 아동 보호 관련 규제 당국으로부터 추가적인 압박을 받을 가능성이 큽니다.
- 플랫폼 신뢰도 하락: 개인정보 보호 설정을 찾기 어렵게 배치하고 실효성이 낮은 기능을 제공함에 따라 X 사용자들의 플랫폼 보안에 대한 불신이 심화될 것으로 보입니다.