구글, 의사결정 전문 AI API 공개…150ms 내 1000개 질문 처리
원제 Gemini Decisions API
224 포인트댓글 74

Key Point
의사결정에 특화된 저지연 API가 등장하며 AI 애플리케이션의 라우팅·검증·분류 작업 방식이 바뀌고, 기존 대비 5배 저렴한 가격과 3가지 질문 유형 지원으로 구현 복잡도를 크게 낮춘다.
핵심 요약
- 구글이 Gemini Decision 1 모델 기반의 Decisions API를 출시했으며, 텍스트·이미지·오디오·비디오·PDF를 포함한 멀티모달 입력에서 최대 1000개의 예/아니오, 선택지, 루브릭 채점 질문을 한 번의 API 호출로 처리할 수 있다.
- 토큰별 생성이 아닌 단일 포워드 패스 방식으로 동작해 중앙값 50~100ms 모델 계산 시간(엔드투엔드 150~250ms)의 저지연을 유지하며, 최대 16K 토큰 컨텍스트에서 질문 1~100개 구간에서도 거의 선형적인 성능을 보인다.
- 에이전트 라우팅·추론·랭킹·멀티모달 이해 벤치마크에서 Gemini Decision 1이 최고 성능을 기록했으며, 보정 오류도 가장 낮다.
- 동일 벤치마크 기준 Gemini 3.5 Flash-Lite의 Interactions API 대비 거의 5배 저렴하며, 입력 토큰당 0.10달러, 출력 토큰은 무료로 책정된다.
- Yes/No 판정(확률 추정), 2~255개 선택지 중 최적 선택 반환, 0점부터 시작하는 순서형 루브릭 점수 매기기 등 3가지 질문 유형을 모두 하나의 요청에서 지원하며 각 응답에 0~1 신뢰도 점수가 포함된다.
- 구글 내부 팀들이 Gemini Notebook의 실시간 모델 라우팅(기존 대비 최대 40% 저지연), Stitch의 초안 생성, Google Labs의 CC 이모지 선택(200개 이상 옵션), 구글 검색의 적대적 행동 탐지 등에서 이미 활용 중이다.
- 입력 토큰은 요청당 한 번만 청구되며 질문 개수와 무관하고, 출력 토큰·가변 추론 토큰·별도 음성 전사 및 OCR 비용이 없다.
- Google AI Studio에서 무료 API 키를 발급받아 프로토타입을 만들 수 있으며, OpenRouter·LangChain·Vercel·LiteLLM·Pydantic AI·Pipecat·LiveKit·OpenCode 등 주요 에코시스템 통합이 순차 출시되고 있고 구글 클라우드 Gemini 지원도 예정 중이다.