AI 요약
구글이 야심 차게 추진 중인 AI 검색 서비스 'AI 개요(AI Overviews)'에서 사용자의 검색 의도를 완전히 무시하고 오작동하는 심각한 시스템 오류가 발견되었습니다. 더버지(The Verge)의 제이 피터스(Jay Peters) 기자가 보도한 바에 따르면, 사용자가 구글 검색창에 'disregard(무시하다)'를 입력할 경우 AI가 검색 결과를 분석하여 요약하는 대신 대화형 챗봇처럼 '알겠습니다. 질문이 있다면 언제든 알려주세요'라며 대화를 종결하려는 듯한 답변을 출력하는 오류가 발생했습니다. 이는 AI 검색 엔진이 단순 검색 키워드를 시스템 입력 명령어(프롬프트)로 오인하여 발생한 현상입니다. 이외에도 'ignore', 'skip' 같은 단어들 역시 유사한 결함 현상을 보였으며, 구글은 5월 22일 금요일 오후 일부 검색어에 대해 AI 개요를 노출하지 않고 뉴스 검색 결과로 대체하는 긴급 조치를 취했으나, 아직 일부 단어에서는 여전히 버그 답변이 노출되고 있습니다.
핵심 인사이트
- 시스템 명령어 오인 오류: 'disregard', 'ignore', 'skip' 등 명령이나 중단을 뜻하는 특정 단어를 검색하면, 구글 'AI 개요'가 이를 검색어가 아닌 시스템 제어 프롬프트로 오인하여 오작동하는 심각한 버그가 관찰되었습니다.
- 임시 비활성화 조치: 2026년 5월 22일 금요일 오후 업데이트 기준으로 구글은 문제가 된 'disregard' 키워드에 대해 AI 개요 요약을 표시하는 대신 사건을 다룬 뉴스 기사를 먼저 보여주도록 긴급 변경했습니다.
- 잔존 버그 확인: 구글 측의 긴급 조치 이후에도 'ignore'나 'skip' 키워드로 검색 시 여전히 AI가 사용자에게 대화를 유도하거나 오타 여부를 묻는 깨진 답변이 그대로 송출되는 결함이 확인되고 있습니다.
주요 디테일
- 'disregard'의 비정상 답변: 검색 시 'Got it. If you need anything else or have a new question later, just let me know!'(알겠습니다. 질문이 생기면 언제든 말씀해 주세요)라는 챗봇 종료형 답변이 표출되었습니다.
- 'ignore'의 비정상 답변: 'Message received! I'm here and ready to help...'(메시지를 수신했습니다! 도울 준비가 되었으니 주제를 골라 주세요)라는 챗봇 대기 프롬프트가 검색 요약 영역에 생성되었습니다.
- 'skip'의 비정상 답변: 'It looks like your message was just a test or a typo...'(단순한 테스트나 오타인 것 같습니다...)라는 엉뚱한 AI 피드백 메시지가 노출되었습니다.
- 제보 및 언론 대응: 이 오류는 소셜 미디어 플랫폼 X(구 트위터)를 통해 최초 포착되었으며, 더버지 측이 구글에 공식 입장을 요청했으나 구글은 이에 답변을 하지 않은 상태입니다.
- Google I/O 후폭풍: 최근 구글 I/O 행사 이후 AI 검색 기능을 성급히 현장에 적용하면서 프롬프트 제어 및 보안 필터 검증이 완벽하지 못했다는 지적이 나옵니다.
향후 전망
- 구글은 'ignore'와 'skip' 등 다른 명령조 단어에 대해서도 즉각적인 원인 분석 및 패치 업데이트를 시행해 AI 검색 오류를 정정할 예정입니다.
- 검색 시스템이 프롬프트 인젝션(Prompt Injection)이나 키워드 명령어 혼동에 취약함을 보임에 따라, 일반 사용자의 정상 쿼리와 인스트럭션을 명확히 분리하는 아키텍처 개선이 중요 과제로 부각될 것입니다.