AI 요약
OpenAI의 최신 보고서에 따르면, 중국의 한 법 집행 공직자가 ChatGPT를 비밀 공작의 기록 도구로 사용하다가 광범위한 여론 조작 및 탄압 활동이 발각되었습니다. 해당 사용자는 ChatGPT를 일기처럼 활용해 해외 거주 반체제 인사들을 위협하기 위한 미국 이민국 직원 사칭, 미국 카운티 법원의 문서 위조를 통한 소셜 미디어 계정 삭제 시도 등의 세부 내용을 기록했습니다. OpenAI의 수석 조사관 벤 니모(Ben Nimmo)는 이를 단순한 트롤링을 넘어선 '산업화된 초국가적 탄압'이라고 규정하며, 중국 공산당(CCP) 비판자들을 전방위적으로 공격하려는 시도라고 분석했습니다. 특히 2023년 발생했던 반체제 인사의 가짜 사망 루머가 이 사용자의 기록과 일치하는 등 실제 온라인 활동과의 연관성도 확인되었습니다. 이번 사건은 권위주의 정권이 AI 기술을 검열과 탄압의 도구로 고도화하여 사용하고 있음을 보여주는 선명한 사례입니다.
핵심 인사이트
- 조직적 규모: 이번 공작에는 수백 명의 중국 측 운영자와 소셜 미디어 플랫폼상의 수천 개 가짜 계정이 동원된 것으로 밝혀짐.
- 실제 피해 사례: 2023년 온라인에 유포된 중국 반체제 인사의 가짜 부고와 묘비 사진이 해당 공직자의 ChatGPT 기록 내 계획과 일치함이 확인됨.
- 정치적 타겟팅: 일본의 사나에 다카이치(Sanae Takaichi) 총리를 비방하기 위해 미국 관세에 대한 일본 여론의 분노를 자극하려는 다단계 계획이 발견됨.
- 사칭 및 위조: 미국 이민국 직원을 사칭해 반체제 인사에게 경고를 보내거나, 미국 법원 문서를 위조해 계정 폐쇄를 유도하는 등 대담한 수법이 사용됨.
주요 디테일
- ChatGPT의 용도: 콘텐츠 생성보다는 주로 비밀 네트워크의 활동을 추적하고 기록하는 '저널'이나 '업무 일지' 용도로 ChatGPT를 활용함.
- OpenAI의 대응: 조사관들이 ChatGPT 기록과 실제 온라인 활동의 상관관계를 확인한 후, 해당 사용자의 계정을 즉시 차단 조치함.
- 거부된 요청: 해당 사용자가 일본 총리 비방 계획 작성을 요청했을 때, ChatGPT는 정책에 따라 답변을 거부했으나 실제 일본 온라인 포럼에서는 유사한 공격 해시태그가 등장함.
- 초국가적 탄압: 벤 니모 조사관은 이번 사태가 디지털 공간을 넘어 실제적인 위협을 가하는 '현대적 초국가적 탄압'의 전형이라고 강조함.
향후 전망
- AI 정보전의 심화: 미국과 중국 간의 AI 패권 경쟁이 전쟁터와 이사회를 넘어, 여론 조작 및 정보전 영역에서 더욱 치열해질 것으로 예상됨.
- 빅테크의 감시 강화: AI 모델이 국가 차원의 공작에 악용되는 것을 막기 위한 기술 기업들의 모니터링 및 보고서 발간이 정례화될 가능성이 높음.