AI 시대, 로봇 안전성 새롭게 묻는다

AI 요약

IEEE Spectrum에 게재된 VicOne 기고문은 피지컬 AI(Physical AI) 시대에 로봇 안전의 정의가 근본적으로 바뀌어야 한다고 주장한다. 전통적 안전성은 "고장 시에도 안전한가"를 물었지만, 이제는 "공격자가 로봇의 인식·판단·행동을 조작해도 안전한가"를 물어야 한다는 것이다. 로봇이 멀티모달 센서로 인지하고 AI 모델로 맥락을 해석해 물리적 행동으로 옮기는 구조는 훈련 파이프라인, 시스템 인프라, 런타임 인지 등 다층 공격 표면을 만든다. 2017년 BadNets의 정지 표지판 오분류 실험에서 시작된 취약점은 2025년 NeurIPS의 BadVLA(로봇 행동 궤적 조작 백도어)와 GoBA(커피 머그 등 일상 물체를 트리거로 사용, 97% 공격 성공률)로 진화했다. VicOne은 AI 모델·취약점 스캐닝, 시뮬레이션 기반 검증, 지속적 모니터링을 결합한 새로운 안전 접근법을 제시한다.

핵심 포인트

• 2017년 BadNets: 특정 숨겨진 트리거가 있을 때만 정지 표지판을 속도 제한 표지판으로 오분류하는 백도어 실증
• 2025년 NeurIPS BadVLA: Vision-Language-Action(VLA) 모델을 겨냥한 백도어로 트리거 존재 시 로봇 행동 궤적을 조건부로 이탈시킴
• 2025년 GoBA: 커피 머그 같은 일상 물체를 트리거로 사용해 97% 공격 성공률 달성, 정상 입력 성능은 유지
• 공격 표면은 훈련 파이프라인, 시스템 인프라, 런타임 인지 등 다층 구조로 확장

향후 전망

• AI 모델 스캐닝·시뮬레이션 검증·지속 모니터링을 통합한 피지컬 AI 사이버보안 표준이 개발·운영 전 단계에 걸쳐 요구될 전망
• 휴머노이드·자율주행 등 피지컬 AI 확산과 함께 백도어·적대적 공격 대응이 로봇 안전 인증의 핵심 항목으로 부상