AI 요약
페이스북의 핵심 가치였던 '지인 기반의 연결'이 AI가 생성한 저질 콘텐츠인 '슬롭(Slop)'으로 대체되며 플랫폼의 위기를 여실히 드러내고 있습니다. 필자가 약 8년 만에 자신의 뉴스 피드를 확인한 결과, 팔로우 중인 'xkcd' 페이지의 게시물 단 하나를 제외하고 연이어 나타난 10개의 추천 게시물은 모두 팔로우하지 않은 페이지의 AI 생성 콘텐츠였습니다. 주로 노출이 심한 여성 이미지나 감성을 자극하는 조작된 AI 영상, 성차별적 요소가 담긴 밈 등이 알고리즘에 의해 강제로 노출되고 있었습니다. 메타의 AI 시스템은 이러한 영상에 대해 부적절한 질문을 추천하는 등 기술적 결함을 드러냈으며, 배경의 뭉개진 로고나 외계어 같은 텍스트 등 AI 생성물의 흔적에도 불구하고 댓글창은 이를 비판 없이 수용하는 봇들로 가득했습니다. 이는 소셜 미디어의 본질이 사라지고 저질 AI 콘텐츠가 플랫폼을 지배하는 '슬롭 컨베이어 벨트'로 전락했음을 시사합니다.
핵심 인사이트
- 필자가 8년 만에 접속하여 확인한 뉴스 피드 상위 11개 게시물 중 사용자가 실제 팔로우한 페이지는 단 1개(xkcd)에 불과했습니다.
- 피드를 점령한 콘텐츠의 대다수는 AI로 생성된 여성의 사진(Thirst traps)과 감정을 자극하기 위해 조작된 가짜 AI 영상이었습니다.
- 메타 AI는 성차별적인 질문을 유도하거나 "그녀의 성격은 무엇인가?"와 같이 맥락 없는 질문을 제안하는 등 알고리즘의 허점을 노출했습니다.
- 1~2년 전 인터넷에서 화제가 되었던 '브로콜리 예수상(Jesus-statue-made-out-of-broccoli)' 사례보다 현재의 AI 저질 콘텐츠 침투가 훨씬 더 심각한 수준입니다.
주요 디테일
- AI 생성 이미지의 배경에 포함된 스코어보드에는 뭉개진 로고와 해독 불가능한 문자가 포함되어 있어 기술적 완성도가 낮은 AI 저질 콘텐츠임이 확인되었습니다.
- 주요 사례로 경찰관이 소년의 자전거를 압수했다가 새 자전거를 선물하는 인위적인 감동 유도형 AI 영상이 뉴스 피드 메인에 노출되었습니다.
- 댓글 섹션은 콘텐츠의 진위 여부를 파악하지 못하는 일반 사용자 혹은 대규모로 동원된 봇들에 의해 점유되어 정상적인 피드백 기능을 상실했습니다.
- 트위터(X)가 댓글 스팸 봇으로 고통받는 것과 달리, 페이스북은 사이트의 얼굴인 뉴스 피드 자체가 저질 AI 콘텐츠 공급망으로 변질되었습니다.
- 필자는 50세 미만의 실사용자가 떠난 자리를 이러한 AI 생성물들이 채우고 있으며, 특히 고립된 고연령층 사용자들에게 미칠 부정적 영향을 우려했습니다.
향후 전망
- 소셜 미디어의 핵심인 '지인 간의 소통' 기능이 복구되지 않고 AI 생성물에 의한 체류 시간 확보에만 치중할 경우, 플랫폼의 장기적 생존은 불투명해질 것입니다.
- 메타가 AI 추천 알고리즘의 질적 개선과 봇 필터링을 강화하지 않는다면, 페이스북은 신뢰할 수 없는 정보와 가짜 콘텐츠만 남는 '죽은 플랫폼'이 될 가능성이 높습니다.
출처:hackernews