AI 요약
보안 기업 Intruder가 최근 실시한 조사에 따르면, 급격한 AI 도입 열풍 속에서 보안 설정이 누락된 AI 서비스들이 대거 인터넷에 노출되어 있는 것으로 드러났습니다. 조사 대상인 Ollama API의 31%가 아무런 인증 없이 공개되어 있었으며, 심지어 타사의 유료 모델을 래핑하여 무단으로 비용을 발생시키는 인스턴스도 518대에 달했습니다. 이뿐만 아니라 정부 및 금융기관이 사용하는 n8n 및 Flowise 워크플로우 도구와 OpenUI 기반 챗봇의 대화 이력도 무방비로 노출되어 기업 기밀과 개인정보 유출 위험이 심각합니다. 더욱 우려스러운 점은 공격자들 역시 AI를 활용하고 있다는 사실로, 지난 5월 11일 Google 위협 인텔리전스 팀(GTIG)은 AI가 생성한 제로데이 취약점 및 익스플로잇 코드를 활용한 대규모 해킹 시도를 최초로 포착해 저지하기도 했습니다. 이는 전통적인 소프트웨어 보안 규칙이 급성장하는 AI 업계에서 무시되고 있음을 보여주며, 조직 내 AI 인프라에 대한 즉각적인 보안 진단과 포트 및 인증 설정의 재검토가 시급함을 시사합니다.
핵심 인사이트
- 사상 최악의 AI 보안 상태: 보안 기업 Intruder가 200만 대 이상의 호스트를 스캔하고 100만 개의 공개 AI 서비스를 분석한 결과, 역대 조사된 소프트웨어 중 가장 취약하고 설정 오류가 많은 것으로 나타났습니다.
- 무인증 Ollama API 노출: 스캔된 5,200대 이상의 Ollama API 중 약 31%인 1,600여 대가 인증 없이 외부 응답이 가능한 상태였으며, 이 중 518대는 OpenAI, Google, Anthropic 등의 유료 모델을 무단으로 사용할 수 있도록 노출되어 있었습니다.
- 공공 및 금융 부문 도구 유출: 정부 기관, 마케팅, 금융 부문에서 사용하는 n8n 및 Flowise 인스턴스 90대 이상이 인증 없이 공개되어 비즈니스 로직과 API 키 등 자격 증명이 노출되었습니다.
- AI 생성 제로데이 공격 최초 탐지: Google 위협 인텔리전스 팀(GTIG)은 2026년 5월 11일, 해커 집단이 AI를 이용해 2단계 인증(2FA)을 우회하는 제로데이를 발견하고 파이썬(Python) 익스플로잇 코드를 자동 생성해 실행하려던 대규모 공격을 저지했다고 발표했습니다.
주요 디테일
- AI 생성 코드의 특징: GTIG가 적발한 해킹 코드는 교육적인 'docstring'이 대거 포함되어 있고 가상의 CVSS(공통 취약점 등급 시스템) 점수까지 작성되어 있는 등 LLM 특유의 '정중한' 코드 스타일이 단서가 되어 덜미를 잡혔습니다.
- 대화 이력 전체 노출: OpenUI 기반의 챗봇 중 일부는 사용자의 전체 대화 기록이 접근 가능한 상태로 방치되어 고객의 개인정보 및 기업 기밀이 무방비로 노출되었습니다.
- 보안 취약점의 근본 원인: AI 도구들이 기본적으로 인증을 비활성화해 배포되며, 셋업 파일 내 인증 정보 하드코딩, 루트(root) 권한 실행, 샌드박스 미적용, 취약한 Docker 설정 등 기본 보안 수칙을 어기고 있기 때문입니다.
- 즉각적인 보안 조치 5가지 제안: ①
OLLAMA_API_KEY환경변수 설정, ② n8nBASIC_AUTH활성화, ③ 로컬 호스트 바인딩 확인(netstat명령 활용), ④ Docker Compose 파일에서127.0.0.1로 포트 바인딩 제한, ⑤ VPN 및 프라이빗 네트워크 환경 사용이 권장됩니다.
향후 전망
- AI 보안 패러다임의 변화: 전통적 소프트웨어는 보안 중심 설계가 자리 잡은 반면, AI 도구는 신속한 배포에 치중해 취약점 정의가 모호하므로 향후 프롬프트 인젝션 등 AI 특화 보안 표준 수립이 가속화될 것입니다.
- AI 주도 취약점 레이스 본격화: GTIG의 수석 분석가 존 헐트퀴스트(John Hultquist)가 언급했듯 AI를 악용한 제로데이 발굴 및 해킹 자동화 대결은 미래의 일이 아닌 이미 진행 중인 현실이며, 방어 측면에서도 24시간 내 패치 적용을 목표로 하는 초고속 실시간 보안 대응 모델이 필수적으로 자리 잡을 전망입니다.