AI 요약
BBC 다큐멘터리 'Inside the Rage Machine'을 통해 공개된 이번 폭로는 틱톡의 급성장에 대응하기 위한 소셜 미디어 기업들의 '알고리즘 군비 경쟁'이 사용자 안전을 위협하고 있음을 보여줍니다. 메타(Meta)의 엔지니어들은 주가 하락 방어와 틱톡과의 경쟁을 위해 여성 혐오나 음모론 등 '경계선(borderline)'상의 유해 콘텐츠 노출을 허용하라는 경영진의 지시를 받았다고 증언했습니다. 2020년 출시된 인스타그램 릴스는 괴롭힘과 증오 발언 수치가 기존 서비스보다 높음에도 불구하고 충분한 안전장치 없이 시장에 나왔습니다. 틱톡 역시 규제를 피하고자 정치적 인물과의 관계 유지를 우선시하며, 아동 관련 유해 게시물 신고보다 정치인 민원을 먼저 처리하는 이중적인 태도를 보였습니다. 결과적으로 알고리즘이 사용자 복지보다는 수익 극대화를 위해 설계되었다는 내부 연구 결과가 공개되면서 업계에 큰 파장이 예상됩니다.
핵심 인사이트
- 메타는 인스타그램 릴스 성장을 위해 700명의 직원을 투입했으나, 아동 보호 전문가 2명과 선거 무결성 팀 10명 등 안전 인력 충원 요청은 거절함.
- 시니어 연구원 맷 모틸(Matt Motyl)에 따르면, 2020년 출시된 릴스는 인스타그램의 타 기능 대비 괴롭힘, 증오 발언, 폭력 선동 수치가 현저히 높았음.
- 12명 이상의 내부 고발자들은 기업들이 폭력, 성적 블랙메일, 테러 이슈에서 사용자 주의 집중을 위해 안전 리스크를 감수했다고 폭로함.
주요 디테일
- 메타 경영진은 주가 하락을 이유로 엔지니어들에게 여성 혐오 및 음모론이 포함된 '경계선' 유해 콘텐츠를 피드에 더 많이 노출하도록 지시함.
- 틱톡 내부 대시보드 분석 결과, 규제나 금지 조치를 피하기 위해 아동 유해물 신고보다 정치인 관련 민원을 우선순위로 처리하도록 지침이 내려짐.
- 페이스북 내부 연구 보고서는 현재의 알고리즘이 시청자의 웰빙을 희생하여 수익을 극대화하는 경로를 창작자에게 제공하고 있다고 인정함.
- 알고리즘이 유도하는 '분노(Outrage)'가 사용자 참여(Engagement)의 핵심 동력이라는 사실이 내부 연구를 통해 확인되었음.
향후 전망
- 이번 폭로를 다룬 BBC 다큐멘터리 방영 이후, 소셜 미디어 기업들의 알고리즘 투명성 및 안전성에 대한 글로벌 규제 압박이 거세질 것으로 보임.
- 수익성과 사용자 보호 사이의 갈등이 구체적인 수치와 증언으로 드러남에 따라 기업 가치 및 브랜드 신뢰도에 타격이 불가피할 전망임.
출처:hackernews