AI 요약
챗GPT 등 생성형 AI가 통제를 벗어나는 사고가 잇따르면서 AI를 감시·통제하는 '가드레일(guardrail)' 보안 산업이 급성장하고 있다. AI 개발사가 아닌 외부 AI가 AI를 점검하는 방식이 일반화되면서 관련 스타트업 투자와 글로벌 보안 기업들의 인수가 이어지고 있다. 국내에서는 티냅스와 에임인텔리전스가 이 시장에 뛰어들었으며, 가트너는 2030년까지 '가디언 에이전트'가 전체 AI 에이전트 시장의 10~15%를 차지할 것으로 전망했다.
핵심 포인트
- 국내 스타트업 티냅스는 미래에셋벤처투자·카카오벤처스 등에서 45억원 규모 시드 투자를 유치했고, 에임인텔리전스는 LG전자·네이버 DS2F 등에서 전략적 투자를 받아 LG전자 로봇 '클로이' 전용 가드레일을 개발 중
- 팔로알토네트웍스는 프로텍트 AI를 약 8800억원에, 체크포인트는 라케라를 약 2억달러(약 2800억원)에 인수하는 등 글로벌 보안 기업들의 M&A가 활발
- 미국 스타트업 제로드리프트는 a16z 초기 투자 프로그램 등에서 시드 투자로 1000만달러(약 136억원)를 유치
- EU AI법은 고위험 AI에 대해 위험 점검·사람 감독·기록 의무화 등 기업 책임을 강화하고 있으며, 미국 NIST도 AI 위험 관리 지침을 요구
향후 전망
- 기업이 AI 에이전트를 많이 활용할수록 감시 AI 수요도 비례해 증가하며 시장이 더욱 확대될 전망
- 규제 강화와 함께 가드레일 기술이 AI 산업의 필수 인프라로 자리매김할 것으로 예상