AI 요약
영국 그레이터 맨체스터 소재의 한 중학교에서 사서 에밀리(가명)가 여성 혐오 문제를 다룬 논픽션 'Men Who Hate Women'을 추천 리스트에 올리자, 학교 측이 이를 문제 삼아 도서관을 일시 폐쇄하고 AI를 이용해 장서 전수 조사를 실시했습니다. 조사 결과 AI는 약 200권의 도서를 '부적절'하다고 분류했으며, 여기에는 조지 오웰의 '1984'와 같은 고전뿐만 아니라 '귀멸의 칼날', '체인소 맨' 등 다수의 일본 만화가 포함되었습니다. 학교 측은 AI의 판단이 정확하다고 주장하며 사서인 에밀리를 아동 보호 리스크가 있는 인물로 지역 당국에 신고했고, 결국 그녀는 스트레스로 인해 퇴직하며 경력이 단절되었습니다. 이번 사건은 교육 현장에서 전문가 대신 AI의 불투명한 알고리즘을 사용해 도서 검열을 수행한 위험한 사례로 지적되며, 도서관 협회와 표현의 자유 단체들의 강력한 비판을 받고 있습니다.
핵심 인사이트
- 대규모 검열: 영국 그레이터 맨체스터의 중학교에서 AI를 통해 약 200권의 도서가 도서관에서 강제 철거됨.
- 검열 대상: 조지 오웰의 '1984', 미셸 오바마의 자서전 '마이 스토리', 스테파니 메이어의 '트와일라잇' 등 세계적인 베스트셀러가 포함됨.
- 일본 만화 포함: '귀멸의 칼날', '체인소 맨', '주술회전', '원펀맨', '데스노트' 등 다수의 인기 일본 만화 시리즈가 부적절 도서로 분류됨.
- 전문가 배제: 도서관 정보 전문가 협회(CILIP)의 루이 코와페-건은 학교 지도자들이 전문가 대신 AI를 이용해 도서를 분류하는 행태에 깊은 우려를 표명함.
주요 디테일
- 발단 도서: 로라 베이트의 'Men Who Hate Women'은 온라인 여성 혐오 집단인 인셀(Incel)을 다룬 책으로, 교장은 이 책이 학생들을 위험한 사상에 노출시킨다고 주장함.
- 모호한 기준: 학교가 제시한 철거 기준은 '아동용이 아닌 책', '불쾌감을 주는 테마', '아동 보호 리스크' 등 구체적 정의가 결여된 3가지 항목이었음.
- 사서에 대한 불이익: 사서 에밀리는 아동 보호 수칙 위반자로 지역 자치 단체에 통보되었으며, 이로 인해 향후 학교 사서로서의 커리어가 사실상 종료됨.
- 소수자 지원 중단: 도서관 폐쇄로 인해 LGBTQ+ 및 신경 발달 장애를 가진 아이들의 안전한 커뮤니티 공간이 상실되었다는 지적이 제기됨.
- 정치적 맥락: 표현의 자유 옹호 단체 'Index on Censorship'은 이번 사건이 미국 보수 우익 로비 단체의 도서 검열 압력과 유사한 흐름을 보인다고 분석함.
향후 전망
- 검열 확산 우려: 이번 사건이 전례가 되어 영국 내 다른 교육 기관에서도 AI를 이용한 보수적이고 자의적인 도서 검열이 확산될 가능성이 있음.
- AI 알고리즘 편향성 논의: AI가 문학적 맥락을 무시하고 특정 키워드나 테마를 기계적으로 필터링하는 방식에 대한 윤리적·기술적 비판이 강화될 것으로 보임.