AI 요약
AI가 국가 행정과 판단 영역에 본격적으로 진입하면서 '누가 결정했는가'라는 책임 문제가 새롭게 제기되고 있다. 호주 '로보데트' 사건은 자동화된 시스템이 국민에 대한 판단에 사용될 때 적법성과 책임 통제가 실패할 수 있음을 보여준 사례로, AI가 수사 방향과 질문을 추천하는 단계에 이르면 법적 결정권자가 인간이라 해도 AI의 영향력이 실질적 권력으로 작용할 수 있다는 지적이다.
핵심 포인트
- 호주 로보데트 사건: 52만 6000명에게 17억 6000만 호주달러의 채무가 위법하게 부과됨
- 경찰청 '수사지원AI' 1단계 서비스 시행 중, 결정서 작성·질문 추천 기능 고도화 추진
- AI기본법 및 '인공지능 및 데이터 기반 행정 활성화에 관한 법률'(8월 28일 시행)은 최종 권한과 책임을 공공기관에 부여
- 개인정보보호법은 자동화된 결정에 대한 거부·설명 요구·인적 개입 재처리 권리 보장
향후 전망
- AI의 정확도 99%라도 나머지 1%에 포함된 국민에게는 설명과 구제 절차가 필수
- 법적 책임 명시를 넘어 실제로 책임을 지게 만드는 국가의 통제·검증 시스템 구축이 과제
출처:naver_ai