AI 요약
구글이 새로운 Gemini Decision 1 모델 기반의 'Gemini Decisions API'를 공개했다. 텍스트·이미지·오디오·비디오·PDF 등 멀티모달 입력에 대해 최대 1,000개의 예/아니오, 선택형, 루브릭 채점 질문을 단일 패스로 빠르게 평가한다. 토큰을 하나씩 생성하는 대신 후보 옵션에 확률과 신뢰도 점수를 부여해 150~250ms의 종단 지연과 100만 입력 토큰당 0.10달러(출력 토큰 과금 없음)로 제공된다. 에이전트 라우팅, 정책 검사, 모델 라우팅, 콘텐츠 채점 등에 활용되며, 벤치마크에서 가장 낮은 캘리브레이션 오차를 기록했다.
핵심 포인트
- Gemini Decision 1은 최대 256K 토큰의 멀티모달 입력과 최대 1,000개의 독립 질문을 단일 패스로 처리한다.
- 종단 지연은 150~250ms(모델 연산 중앙값 50~100ms)이며, 요청당 질문 수가 1~100개로 늘어도 지연이 거의 일정하다.
- 가격은 100만 입력 토큰당 0.10달러, 출력 토큰 과금 없음으로 Gemini 3.5 Flash-Lite 대비 약 5배 저렴하다.
- 에이전트 라우팅·추론·랭킹·멀티모달 이해 벤치마크에서 선두를 기록하고 가장 낮은 캘리브레이션 오차를 보였다.
향후 전망
- 확률·신뢰도 기반의 폐쇄형 의사결정 API가 에이전트 파이프라인의 라우팅·정책 검증 표준 도구로 자리 잡을 전망이다.
- 저비용·저지연 특성 덕분에 대규모 콘텐츠 모더레이션과 정책 준수 검사 자동화가 확산될 가능성이 있다.
