한 컴퓨터 과학자가 '초지능은 오지 않을 것'이라 보는 이유

“조지타운대 컴퓨터과학 세미나를 진행한 칼 뉴포트는 초지능(ASI)의 핵심 전제인 재귀적 자기개선(RSI)이 1965년 I.J. 굿의 추측에서 출발한 지극히 사변적 개념이라고 지적한다. 그는 Anthropic의 제이콥 콕슨, 에반 허빙거, 다리오 아모데이 등이 AI의 인류 멸종 가능성을 공개적으로 논의했지만, 공학적 관점에서 ASI 실현 가능성은 거의 검토되지 않았다고 본다. 나아가 지능 폭발이 오지 않더라도 그것을 추구하는 과정 자체가 실질적 해악을 낳을 수 있다고 경고한다.”

AI 요약

조지타운대에서 컴퓨터과학 박사 세미나를 진행한 칼 뉴포트는 초지능(ASI)의 실현 가능성에 의문을 제기한다. 초지능 담론의 핵심인 재귀적 자기개선(RSI)은 1965년 I.J. 굿의 사변적 논문에서 출발한 검증되지 않은 개념이라는 것이다. Anthropic의 제이콥 콕슨, 에반 허빙거, 다리오 아모데이 등이 AI의 인류 멸종 위험을 공개적으로 논의하며 주목받았지만, 뉴포트는 공학적 관점에서 ASI 가능성 자체가 충분히 검토되지 않았다고 지적한다. 그는 초지능이 실현되지 않더라도 그것을 추구하는 과정 자체가 실질적 해를 초래할 수 있다고 경고한다.

핵심 포인트

  • Anthropic 연구원 제이콥 콕슨이 "자기개선 초지능으로 직행하며 목숨을 걸고 도박하고 있다"며 사임, CEO 다리오 아모데이도 CNN에서 이에 상당 부분 동의
  • RSI 개념은 1965년 통계학자 I.J. 굿의 논문으로 거슬러 올라가는 사변적 가설
  • ASI는 범용인공지능(AGI)보다 훨씬 야심찬 목표로, 인류를 능가해 통제를 회피할 수준의 시스템을 의미
  • 뉴포트는 조지타운대 박사 세미나에서 초지능 담론의 기술적·문화적 뿌리를 분석하고 주석 bibliography를 공개

향후 전망

  • ASI 실현 가능성에 대한 공학적 검증 논의가 향후 AI 규제 및 안전 담론의 핵심 쟁점으로 부상할 전망
  • 초지능 추구 자체의 위험성에 대한 논의가 기술 개발 방향성 재고로 이어질 가능성
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...