AI 요약
머신러닝 지능 사용 비용이 매년 수 자릿수씩 하락하고 있으며, 이 추세가 둔화될 조짐이 없다고 분석한다. 1~2년 내 LLM이 제품이 아니라 인프라로서 컴퓨팅 전반에 통합되고, 3~6년 내에는 현재 프런티어급 품질의 LLM이 일반 하드웨어에서 로컬로 구동될 것으로 전망한다. 곧 토큰 수 자체가 아니라 품질과 접근성이 AI 활용의 제약 요인이 될 것이며, 토큰이 도구 호출보다 저렴해지는 상황과 Jevons 역설(공급·수요 양측)을 논의한다.
핵심 포인트
- GPU 전력 효율이 약 2년마다 2배(로그 기울기 1.3)로 향상, 1960년대 무어의 법칙 이후 유례없는 수준
- 프런티어 모델의 토큰당 가격은 일관되게 하락하지 않지만, 작업당 비용은 급감
- 소형 모델은 토큰당 저렴하나 더 많은 토큰을 소모해 작업 단위 비교가 중요
- 1~2년 내 LLM의 인프라화, 3~6년 내 로컬 프런티어 품질 달성 전망
향후 전망
- 토큰이 도구 호출보다 저렴해지며 AI 활용 패턴이 근본적으로 변화
- 공급·수요 양측 Jevons 역설로 투자 회수 모델에 대한 논쟁 심화
출처:hackernews