AI 요약
2024년 도쿄도지사 선거에 출마했던 '팀 미라이'의 안노 타카히로 대표는 대화형 AI 아바타 'AI 안노'를 운영하며 '후쿠시마' 등 29개 키워드를 답변 제한 단어로 설정했습니다. 2월 19일 도쿄에서 열린 기자회견에서 안노 대표는 깃허브(GitHub)에 공개된 'NG.csv' 파일의 내용을 인정하며, 이는 AI가 잘못된 정보를 사실처럼 출력하는 '할루시네이션'을 방지하기 위한 기술적 장치였다고 밝혔습니다. '후쿠시마' 외에도 관동대지진, 조선인 희생자, 백신, 원전 등 논쟁적인 주제들이 포함되었으며, 해당 키워드가 입력될 경우 AI는 구체적인 답변을 피하도록 설계되었습니다. 안노 대표는 논란의 여지가 큰 질문은 AI가 아닌 인간이 직접 대응해야 한다는 '가드레일' 철학을 강조했습니다. 현재는 선거 이후 버전에서 '후쿠시마'를 NG 워드에서 삭제한 상태이며, 향후 정책 검토 체제를 강화할 계획임을 덧붙였습니다.
핵심 인사이트
- 금지어 설정 인정: 안노 타카히로 대표는 2월 19일 기자회견에서 깃허브에 공개된 'NG.csv' 파일과 29개의 금지어 설정이 본인의 결정이었음을 직접 인정함.
- 광범위한 차단 키워드: 금지어 목록에는 지명으로는 유일한 '후쿠시마'를 비롯해 '관동대지진', '조선인 희생자', '재원', '백신', '외국인 참정권' 등 정치·사회적 민감도가 높은 주제들이 포함됨.
- 인간 중심의 소통 강조: AI의 기술적 한계를 인정하고, 특정 키워드 질문 시 AI가 아닌 '인간 안노'에게 질문하도록 유도하는 소통 가이드라인을 수립함.
주요 디테일
- 기술적 배경: 개발 플랫폼인 깃허브(GitHub)에 소스 코드를 투명하게 공개하는 과정에서 'NG.csv' 파일 내 차단 로직이 확인됨.
- 할루시네이션 방지: AI가 사실과 다른 정보를 생성하는 '환각 현상'을 막기 위해 시스템적으로 '가드레일'을 설치하는 것이 개발자로서 성실한 대응임을 피력함.
- 지역 지명 차단 논란: 지명 중 유일하게 '후쿠시마'를 차단한 것에 대해 현민들의 감정을 고려하지 못했다는 지적에 대해, 이는 논의가 깊은 주제에 대한 답변의 정확성을 위한 기술적 처리라고 해명함.
- 조직 체계 정비: '팀 미라이'는 최근 조직 인사를 통해 카와이 미치오 중의원 의원을 '震災復興(지진 부흥)·원자력 특별 위원'으로 배정하여 정책 대응력을 높이기로 함.
- 현재 상태: 도쿄도지사 선거 이후의 시스템에서는 '후쿠시마'를 NG 워드에서 삭제하여 운영 중임.
향후 전망
- AI 정치 도입의 기준 제시: 정치인의 AI 도구 활용 시 발생할 수 있는 윤리적·기술적 책임 범위와 '가드레일' 설정에 대한 표준 논의가 활발해질 것으로 보임.
- 정책 조사 기능 강화: 팀 미라이는 의원 수 증가에 맞춰 후쿠시마 등 주요 사회 문제에 대한 자체적인 정책 연구 및 조사 체계를 본격적으로 가동할 것으로 예상됨.
출처:huffingtonpost