AI 요약
김지현 SK AI위원회 부사장은 1일 서울 강남구 가빈아트홀에서 개최된 'AI 안전 국민공감 토크 콘서트'를 통해 AI 기술의 패러다임이 단순한 결과 생성에서 실제 작업을 수행하는 '실행(Action)' 단계로 전환되고 있다고 분석했습니다. 그는 올해의 핵심 키워드를 'AI 에이전트'로 꼽으며, AI가 대규모언어모델(LLM)을 기반으로 한 텍스트 생성을 넘어 이미지·영상을 처리하는 멀티모달과 스스로 사고하는 추론 모델, 그리고 실제 행동을 수행하는 액션 모델로 진화했다고 설명했습니다. 이러한 변화는 사용자 편의성을 극대화하지만, 의도하지 않은 행동을 실행할 수 있는 새로운 위험성을 내포하고 있습니다. 특히 기술의 발전이 현실 세계의 물리적 변화를 일으키는 단계에 진입함에 따라, AI의 통제와 안전을 확보하는 것이 필수적인 과제가 되었습니다. 김 부사장은 AI가 기기 내부에 탑재되는 온디바이스 환경에서 발생할 수 있는 보안 사고 대응을 위한 사회적 논의가 시급하다고 제언했습니다.
핵심 인사이트
- 1일 과학기술정보통신부, 한국정보통신기술협회(TTA), 인공지능안전연구소가 공동 주최한 AI 안전 행사에서 김지현 SK AI위원회 부사장이 강연을 진행함.
- AI 기술의 진화 단계를 텍스트 생성 → 멀티모달 → 추론 모델 → 실제 업무를 처리하는 '액션 모델(AI 에이전트)'로 구분함.
- 2024년을 'AI 에이전트'의 해로 정의한 데 이어, 2025년은 로봇과 자율주행차 등 현실에서 기동하는 '피지컬 AI'의 해가 될 것으로 예측함.
- 온디바이스 AI 확산의 구체적 사례로 '갤럭시 S26 시리즈'를 언급하며, 클라우드 중심에서 기기 내부 작동 구조로의 변화를 강조함.
주요 디테일
- AI 에이전트는 단순한 챗봇 수준을 넘어 사용자의 명령에 따라 다양한 앱과 서비스를 연동해 실제 업무를 직접 처리하는 '실행력'이 특징임.
- 피지컬 AI는 드론, 로봇 등 물리적 형태를 가지므로 오작동 시 단순 데이터 오류를 넘어 인명 피해 등 치명적인 현실 사고로 이어질 수 있음.
- 온디바이스 AI의 확산으로 인해 음성 명령만으로 서비스가 실행되는 UI(사용자 인터페이스) 혁신이 일어나지만, 동시에 기기 내 데이터 접근권 확대에 따른 보안 리스크도 증가함.
- 기존 AI가 결과를 보여주는 데 그쳤다면, 액션 모델은 실행 단계에서 사용자 의도와 다른 행동을 할 가능성이 있어 새로운 '통제' 기술이 요구됨.
- AI가 모든 애플리케이션의 제어권을 가질 수 있는 환경에서 발생할 '겪어보지 못한 보안 사고'에 대한 선제적 대응의 필요성을 역설함.
향후 전망
- AI가 개인의 방대한 데이터에 접근하고 시스템 전반을 제어하게 됨에 따라 보안 솔루션 및 안전 가이드라인 수립이 산업계의 최우선 순위가 될 것임.
- 2025년부터는 현실 세계에서 직접 기동하는 피지컬 AI와 관련하여 오작동 방지 기술 및 법적 책임 소재에 대한 국제적 논의가 본격화될 전망임.