[AI 읽는 변호사] 인공지능과 인간의 개입

“최승재 세종대 교수(변호사)는 인공지능기본법 제34조 제1항 제4호가 고영향 AI 사업자에게 '사람의 관리·감독', 즉 HITL(Human-in-the-Loop) 의무를 규정하고 있다고 설명했다. HITL은 데이터 라벨링, 모델 파인튜닝, 실시간 운용·의사결정 전 단계에 적용돼야 하며, 의료·자율주행·채용 등 고위험 영역에서 AI 단독 결정을 금지하고 최종 승인 권한은 인간 전문가가 가져야 한다고 강조했다. 모든 과정에 사람을 개입시키면 속도 저하와 비용 증가가 발생하므로 AI 불확실성 임계값을 설정해 필요한 순간에만 개입을 유도하는 방식이 바람직하다고 제시했다.”

AI 요약

최승재 세종대 교수(변호사)가 인공지능기본법상 HITL(Human-in-the-Loop, 인간 개입) 원칙의 법적 쟁점을 분석했다. AI 수명주기 전반(데이터 라벨링, 모델 파인튜닝, 실시간 운용)에 걸쳐 인간의 관리·감독이 필요하며, 고위험 AI 영역에서는 최종 승인 권한을 인간 전문가가 가져야 한다고 강조했다. AI가 단독으로 중대 결정을 내리는 것은 윤리 위반이며 법으로 금지해야 한다는 입장이다.

핵심 포인트

  • 인공지능기본법 제34조 제1항 제4호, 고영향 AI 사업자에게 '사람의 관리·감독' 의무 부과
  • HITL 3단계 적용: 데이터 준비·라벨링 → 모델 파인튜닝·강화학습 → 실시간 운용·의사결정
  • 의료 AI 진단·자율주행·채용 평가 등 고위험 영역에서 최종 결정권은 인간 전문가에게 귀속
  • 피지컬 AI에는 이상 작동 시 인간이 즉시 제어권 회수하는 비상 정지 장치 의무화 필요

향후 전망

  • AI 불확실성 임계값 설정으로 필요한 순간에만 개입 유도하는 효율적 HITL 설계 필요
  • '자동화 편향' 방지를 위한 인간 대상 주기적 교육의 규율 포함 요구
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...