AI 요약
조지타운대에서 컴퓨터과학 박사 세미나를 진행한 칼 뉴포트는 초지능(ASI)의 실현 가능성에 의문을 제기한다. 초지능 담론의 핵심인 재귀적 자기개선(RSI)은 1965년 I.J. 굿의 사변적 논문에서 출발한 검증되지 않은 개념이라는 것이다. Anthropic의 제이콥 콕슨, 에반 허빙거, 다리오 아모데이 등이 AI의 인류 멸종 위험을 공개적으로 논의하며 주목받았지만, 뉴포트는 공학적 관점에서 ASI 가능성 자체가 충분히 검토되지 않았다고 지적한다. 그는 초지능이 실현되지 않더라도 그것을 추구하는 과정 자체가 실질적 해를 초래할 수 있다고 경고한다.
핵심 포인트
- Anthropic 연구원 제이콥 콕슨이 "자기개선 초지능으로 직행하며 목숨을 걸고 도박하고 있다"며 사임, CEO 다리오 아모데이도 CNN에서 이에 상당 부분 동의
- RSI 개념은 1965년 통계학자 I.J. 굿의 논문으로 거슬러 올라가는 사변적 가설
- ASI는 범용인공지능(AGI)보다 훨씬 야심찬 목표로, 인류를 능가해 통제를 회피할 수준의 시스템을 의미
- 뉴포트는 조지타운대 박사 세미나에서 초지능 담론의 기술적·문화적 뿌리를 분석하고 주석 bibliography를 공개
향후 전망
- ASI 실현 가능성에 대한 공학적 검증 논의가 향후 AI 규제 및 안전 담론의 핵심 쟁점으로 부상할 전망
- 초지능 추구 자체의 위험성에 대한 논의가 기술 개발 방향성 재고로 이어질 가능성
출처:IEEE Spectrum
