AI 요약
AI의 실존적 위험(existential risk) 확률 추정치, 이른바 p(doom)이 정책 결정에 활용되기에는 여전히 신뢰할 수 없다는 비판이 제기됐다. 프린스턴대의 아르빈드 나라야난과 세이아시 카푸르는 p(doom)이 검증된 모델이나 방법론에 기반하지 않은 채 모호한 직관과 공포를 양적 수치로 포장하는 역할을 하고 있다고 지적했다. 이들은 AI x-risk 예측의 비정량적 특수성을 강조하며, 일반적인 예측 행위 자체를 반대하는 것은 아니라고 선을 그었다.
핵심 포인트
- 나라야난·카푸르는 2년 전 발표한 p(doom) 비판 에세이를 2026년 9월 28일 재게재하며, 현재의 확률 추정치도 2024년과 다름없이 엄밀하지 않다고 주장
- 이들은 예측가들이 의도적으로 오도하려는 것은 아니지만 결과적으로 오해를 유발한다고 지적
- 정책입안자들에게 p(doom) 수치는 다른 정량적 예측과 달리 검증된 모델의 산물이 아님을 인식해야 한다고 촉구
- 나라야난은 Forecasting Research Institute의 Longitudinal Expert AI Panel 자문을 맡으며 일반 예측의 가치는 인정
향후 전망
- 저자들은 며칠 내로 초점을 실존적 위험·초지능에 두는 p(doom) 문화가 오히려 안전 담론에 역효과를 낸다는 후속 에세이를 발표하고 "빅 텐트(big tent)" 안전 운동을 제안할 예정
- 정책 커뮤니티가 p(doom) 수치를 정책 근거로 삼는 관행에 대한 재검토 논의가 확대될 전망
출처:ai_snake_oil