AI로 가짜 과학 논문 만들어봤더니…

“2025년 발표 학술 논문의 약 57%가 LLM 영향의 탐지 가능한 흔적을 보였으며, 이는 2023년 12%에서 급증한 수치다. 2025년 Nature Communications 리뷰의 12% 이상이 완전 AI 생성으로 확인됐고, AI 사용의 통계적 증거가 있는 논문 40편당 1편만 이를 공식 공개해 실제 규모는 과소평가됐을 가능성이 크다. IEEE 연구진실성 매니저 Amanda Sulicz는 AI 슬롭이 과학 전반과 수백 년간 구축한 과학적 과정에 대한 신뢰를 침식하고 있다고 경고했다.”

AI 요약

IEEE Spectrum 기자가 직접 LLM을 활용해 가짜 과학 논문을 만들어 IEEE Access 저널의 방어 체계를 뚫을 수 있는지 실험한 체험 기사다. 2025년 전체 출판 학술 논문의 약 57%가 LLM 영향의 탐지 가능한 흔적을 보였고(2023년 12%에서 급증), Nature Communications 리뷰의 12% 이상이 완전 AI 생성으로 확인되는 등 학술 출판이 "AI 슬롭"에 잠식되고 있다. 기자는 최소한의 인간 개입으로 가설·코드·텍스트를 생성하는 "바이브 리서치" 방식으로 가짜 논문을 만들고, IEEE Access 편집장과 함께 저널 방어 체계를 시험하는 워게임을 진행했다.

핵심 포인트

  • 2025년 출판 학술 논문 약 57%가 LLM 영향의 탐지 가능한 흔적 보유(2023년 12%에서 급증)
  • 2025년 Nature Communications 리뷰 12% 이상이 완전 AI 생성으로 확인
  • AI 사용 통계 근거 논문 40편당 1편만이 AI 사용을 공식 공개
  • 매년 수십만 편의 가짜·AI 생성 논문이 양산되는 것으로 추정
  • IEEE 연구진실성 매니저 아만다 술리츠는 "AI 슬롭이 과학 전체에 대한 신뢰를 침식한다"고 경고

향후 전망

  • 출판사들의 AI 슬롭 탐지·차단 도구 고도화가 시급한 과제로 부상
  • 고급 AI가 논문 작성뿐 아니라 실제 연구까지 수행하는 단계로 확대될 경우 과학 신뢰성 위협 심화
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...