AI 요약
구글은 인공지능(AI) 기술을 악용해 대규모 피싱 사기 행각을 벌여온 중국계 사이버 범죄 조직 '아웃사이더 엔터프라이즈(Outsider Enterprise)'를 해체하기 위해 법적 대응에 나섰습니다. 이 범죄 조직은 구글의 자체 AI 모델인 '제미나이(Gemini)' 등을 활용하여 정교한 가짜 웹사이트를 제작하고, 구글을 포함한 주요 브랜드를 사칭해 수십만 명의 피해자들로부터 비밀번호와 신용카드 정보를 탈취해 왔습니다. 이들이 배포한 '아웃사이더(Outsider)'라는 피싱 서비스(Phishing-as-a-Service)는 기술적 지식이 없는 범죄자들도 손쉽게 사기 사이트를 구축할 수 있도록 지원하며 주당 88달러 혹은 월 200달러에 판매되었습니다. 구글은 사기 탐지율을 높이기 위해 자사 AI 도구를 활용해 매월 100억 건 이상의 사기 메시지를 차단하고 있으며, FBI 및 주요 이동통신사(AT&T, T-Mobile, Verizon) 등과 공조하여 해당 범죄 네트워크의 도메인과 쇼피파이(Shopify) 계정 등을 압수하며 적극적인 방어에 나서고 있습니다.
핵심 인사이트
- 수십억 달러 규모의 피해: FBI에 따르면 '아웃사이더 엔터프라이즈'의 피싱 플랫폼은 2023년 7월부터 최소 387만 개의 신용카드 정보를 훔쳐 약 19억 달러의 사기 피해를 발생시켰습니다.
- 단기간 내 압도적인 사기 캠페인: 이 조직은 단 2주일 동안 안드로이드 사용자들에게 250만 건의 사기 문자를 전송했으며, 가짜 웹사이트 9,000개와 사기성 웹 도메인 100만 개를 배포했습니다.
- 구글의 AI 기반 사기 차단: 구글은 AI 기반 도구를 사용해 매월 100억 건 이상의 스팸 및 사기 메시지를 차단하고 있으며, 지난 5월 단 2주 동안 안드로이드 사용자들로부터 55,000건의 스팸 신고(분당 2건 이상)를 받아 대응했습니다.
- 저렴한 '서비스형 피싱(PaaS)': 범죄에 사용된 '아웃사이더' 소프트웨어는 주당 88달러 또는 월 200달러라는 저렴한 가격에 제공되어 기술적 장벽 없이 대규모 금융 사기를 가능하게 했습니다.
주요 디테일
- 자체 AI의 부메랑 악용: 범죄자들은 사기 사이트와 콘텐츠 제작을 위해 구글의 AI 플랫폼인 '제미나이(Gemini)'를 포함한 최신 AI 기술들을 악용한 것으로 밝혀졌습니다.
- 실시간 데이터 탈취 메커니즘: 피해자들이 가짜 사이트에 입력한 비밀번호, 다중 인증(MFA) 코드, 금융 정보 등은 '아웃사이더' 플랫폼을 통해 사기꾼들에게 실시간으로 전송되었습니다.
- 초기업적·초국가적 공조: 이번 대응은 구글뿐만 아니라 FBI, 루멘(Lumen)의 블랙 로터스 랩스(Black Lotus Labs), 그리고 미국의 주요 이동통신 3사(AT&T, T-Mobile, Verizon)의 유기적인 협업을 통해 이루어졌습니다.
- 인프라 원천 차단: 사법 당국과 보안 파트너들은 범죄 도메인뿐만 아니라 이들이 피싱 서비스 테스트에 활용한 쇼피파이(Shopify) 스토어프런트와 계정들까지 추적하여 압수했습니다.
향후 전망
- AI 기반 보안 기술의 고도화: 구글이 "AI 사기 방지를 위해 AI 도구를 사용한다"고 선언한 만큼, 사이버 범죄자와 보안 업계 간의 'AI 군비 경쟁'이 더욱 치열해질 것입니다.
- 빅테크 기업의 적극적인 법적 대응: 기술적 차단을 넘어 빅테크 기업들이 사법 기관 및 경쟁 통신사들과 연합해 해외 범죄 조직의 물리적·재정적 인프라를 타격하는 소송 사례가 늘어날 것으로 전망됩니다.