구글(Google)이 글·이미지·음성·영상·PDF를 읽고 여러 질문에 한꺼번에 확률로 답하는 제미나이 디시전스 API(Gemini Decisions API)를 공개했다. 새 모델 제미나이 디시전 1(Gemini Decision 1)은 긴 답변을 생성하는 대신 정해진 선택지에 점수를 매겨, 요청 하나로 최대 1,000개 질문을 처리한다. 핵심은 챗봇의 답변을 더 길게 만드는 일이 아니라, 어떤 모델을 쓸지, 콘텐츠를 검토해야 할지, 사람에게 넘겨야 할지를 빠르게 결정하는 데 있다. 구글의 성능·비용 주장과 함께, 실제 확률을 얼마나 믿고 쓸 수 있는지도 살펴볼 만하다.
핵심요약
- 제미나이 디시전스 API는 하나의 입력에 최대 1,000개 질문을 붙여 처리하므로, 같은 자료를 두고 여러 조건을 검사하는 작업에 맞춰졌다.
- 제미나이 디시전 1은 답변 문장을 차례로 생성하지 않고 선택지의 확률을 계산해, 구글이 밝힌 요청 전체 지연시간은 150~250밀리초다.
- 입력은 글·이미지·음성·영상·PDF를 함께 담을 수 있어, 사진과 문서나 통화 녹음과 계정 정보를 묶어 판단할 수 있다.
- 구글은 입력 토큰 100만 개당 0.10달러를 책정하고 출력 토큰에는 요금을 매기지 않아, 질문이 많은 요청의 비용 구조를 단순화했다.
- 구글 내부에서는 모델 선택과 도구 안전성 검사 등에 쓰고 있지만, 토론에서는 확률의 신뢰도와 경쟁 모델 대비 가격이 주요 쟁점으로 떠올랐다.
답변 생성 대신 선택지에 점수 매기기
제미나이 디시전스 API는 구글 AI 스튜디오(Google AI Studio)의 제미나이 API(Gemini API)를 통해 쓸 수 있는 새 접점이다. 기반 모델은 제미나이 디시전 1이며, 자유롭게 문장을 쓰는 대신 미리 정한 범위 안에서 답을 고르는 데 특화됐다. 도구를 고르거나 정책 위반 여부를 확인하고, 요청을 적절한 모델로 보내거나 입력 자료의 관련성을 채점하는 작업이 구글이 제시한 용도다. 생성형 AI의 모든 응답을 이 모델로 바꾸겠다는 구상보다는, 생성 과정 곳곳에 필요한 짧은 판단을 따로 맡기는 설계에 가깝다.
요청 하나에는 여러 형식의 자료를 합친 입력과 서로 독립적인 질문을 최대 1,000개까지 넣을 수 있다. 입력 한도는 25만 6,000토큰이며, 토큰은 모델이 글과 다른 자료를 처리할 때 사용하는 단위다. 같은 자료를 질문마다 다시 보내는 방식과 달리, 공통 입력을 놓고 여러 조건을 한 번에 평가한다. 따라서 사진 한 장에서 여러 상태를 확인하거나, 문서 한 건을 여러 기준으로 분류해야 할 때 구조가 단순해진다.
모델은 답변을 토큰 단위로 이어 쓰지 않고 선택지마다 점수를 계산한다. 구글은 이를 단일 순전파(forward pass, 입력을 모델 안에서 한 번 통과시켜 결과를 계산하는 과정)로 설명하며, 반환값에 확률과 0~1 범위의 신뢰도 점수를 포함한다고 밝혔다. 애매한 결과를 다른 모델이나 사람 검토자에게 넘기는 조건을 코드로 정할 수 있다는 뜻이다. 여기서 중요한 산출물은 그럴듯한 설명문이 아니라, 다음 처리 단계를 정하는 데 쓸 수 있는 수치다.
50100밀리초의 모델 계산, 150250밀리초의 요청
구글이 제시한 모델 계산시간의 중앙값은 50100밀리초다. 요청을 보내 결과를 받기까지의 전체 지연시간은 150250밀리초로 제시했으므로, 두 수치는 같은 구간을 재는 값이 아니다. 구글은 여러 형식의 입력과 최대 1만 6,000토큰의 문맥에서 이 계산시간을 측정했고, 요청당 질문 수가 1개에서 100개로 늘어도 시간이 거의 일정했다고 설명했다. 최대 1,000개 질문을 받을 수 있다는 사양과, 속도가 거의 일정하다고 밝힌 1~100개 구간은 구분해서 읽어야 한다.
구글은 에이전트의 작업 분배, 추론, 순위 매기기, 여러 형식의 자료 이해를 포함한 자체 비교 평가에서 제미나이 디시전 1이 전체적으로 앞섰다고 주장했다. 특히 보정 오차(calibration error, 제시한 확률과 실제 정답 빈도가 얼마나 어긋나는지를 나타내는 값)가 가장 낮았다고 밝혔다. 선택 결과만 맞히는 모델과 달리 확률까지 내놓는 모델에는 이 차이가 중요하다. 예컨대 사람이 검토할 경계선을 점수로 정한다면, 그 점수가 실제 결과와 잘 맞아야 작업을 안정적으로 나눌 수 있다.
비용 비교에서도 구글은 같은 평가 묶음을 기준으로 디시전스 API가 제미나이 3.5 플래시라이트(Gemini 3.5 Flash-Lite)를 인터랙션스 API(Interactions API)로 쓰는 경우보다 거의 다섯 배 저렴하다고 밝혔다. 이 비교에는 출력 토큰 요금이 없다는 구조가 반영된다. 다만 속도와 비용만으로 어느 작업에나 더 낫다는 결론이 나오지는 않는다. 질문과 선택지를 어떻게 짜야 원하는 판단을 얻는지, 반환된 확률을 어디까지 자동 처리에 쓸지가 함께 결정돼야 한다.
사진 한 장에 예·아니요, 선택, 단계별 점수
디시전스 API는 글뿐 아니라 이미지·음성·영상·PDF를 별도의 텍스트 변환 없이 직접 처리하도록 설계됐다. 구글이 든 예시는 통화 녹음에 계정 정보를 붙이거나, 스캔한 보험 청구 문서와 피해 사진을 함께 살펴보는 방식이다. 이미지와 영상은 해상도를 조절해 모델이 보는 시각 정보의 세부 수준과 토큰 비용을 맞출 수 있다. 서로 다른 자료를 하나의 판단 근거로 묶는 것이 여러 형식 입력의 실질적인 쓰임새다.
질문은 세 종류를 한 요청에 섞을 수 있다. ‘눌(noul)’은 예·아니요 조건이 성립할 확률을 구하고, 필요하면 참과 거짓의 판단 기준도 적는다. ‘초이스(choice)’는 2~255개 선택지에서 하나를 고르면서 각 후보의 정규화된 확률을 돌려준다. ‘스코어(score)’는 루브릭(rubric, 단계별 채점 기준)을 0부터 순서대로 적용해 연속적인 가중 점수와 단계별 확률을 낸다.
구글의 코드 예시는 회의실 옆 휴게공간 조리대 사진에 짧은 상황 설명을 붙인다. 같은 사진을 놓고 닦지 않은 액체가 있는지 묻고, 천으로 닦을지 청소 담당자를 부를지 선택한 뒤, 어질러진 정도를 단계별로 채점한다. 사진을 세 번 별도 작업으로 처리하는 대신 서로 성격이 다른 질문을 한 요청에 묶은 사례다. 반환된 신뢰도에 따라 명확한 경우에는 다음 작업을 진행하고, 경계에 걸린 경우에는 추가 검토로 넘기는 흐름을 만들 수 있다.
구글 내부에서는 모델 선택부터 도구 검사까지
구글은 내부 팀들이 이 API를 지연시간이 짧은 ‘제어 계층’으로 사용하고 있다고 밝혔다. 제미나이 노트북(Gemini Notebook)은 들어온 질문을 어떤 모델 등급과 사고 수준에서 처리할지 실시간으로 고른다. 구글의 설명으로는 일상적인 질문을 처리할 때 지연시간을 최대 40% 낮추면서, 복잡한 요청에는 깊은 추론이 가능한 모델을 남겨둘 수 있다. 분류 결과 자체가 최종 답변은 아니지만, 이용자가 답변을 받기 전 어느 경로로 갈지를 정한다.
디자인 도구 스티치(Stitch)의 신속 캔버스 실험에서는 제품 흐름의 와이어프레임(화면 구성과 이동 경로를 간략히 그린 설계안)을 몇 초 안에 만들고, 음성이나 화면을 누르는 동작으로 들어온 수정을 거의 즉시 반영하는 데 쓴다. 흐름이 마음에 들면 전체 스티치 환경으로 넘겨 디자인을 더 다듬는다. 구글 랩스의 CC는 200개가 넘는 후보 중 알맞은 이모지 반응을 고르는 데 사용한다. 두 사례 모두 결정이 늦어지면 화면의 즉각적인 반응이 깨지는 작업이다.
안전성 검사에도 쓰인다. 구글 검색은 MCP 도구(모델이 외부 기능과 연결해 사용하는 도구)를 대상으로 적대적인 행동과 콘텐츠를 탐지하는 데 디시전스 API를 적용한다고 밝혔다. 구글은 정해진 지연시간 안에서 탐지 효과를 냈다고 설명했지만, 구체적인 탐지 수치는 제시하지 않았다. 이들 사례의 공통점은 새 분류기를 별도로 학습시키거나 긴 생성형 답변을 기다리는 대신, 판단 기준과 후보를 정의해 기존 흐름에 끼워 넣는다는 데 있다.
공통 입력은 한 번 과금, 클라우드 지원은 예정
가격은 입력 토큰 100만 개당 0.10달러이고 출력 토큰 요금은 0달러다. 요청 안에서 공통으로 쓰는 입력은 질문이 몇 개든 한 번만 과금하며, 각 질문의 지시문과 판단 기준에 들어간 토큰은 추가된다. 구글은 사고 과정에 따른 가변 요금이나 별도의 음성 전사·광학문자인식(OCR, 이미지 속 글자를 읽는 기술) 비용도 없다고 밝혔다. 질문을 많이 붙일수록 비용이 전혀 늘지 않는다는 뜻은 아니지만, 같은 긴 자료를 반복해서 넣을 필요는 없다는 뜻이다.
개발자는 구글 AI 스튜디오에서 API 키를 받아 무료 사용 구간으로 시제품을 만들 수 있다. 구글은 파이썬(Python), 자바스크립트(JavaScript), REST 가이드와 데모 앱도 마련했다. 입력 형식은 인터랙션스 API의 콘텐츠 블록 형식을 따르므로, 개발자는 자료를 전달하는 구조를 함께 살펴볼 수 있다. 실제 도입 단계에서는 질문마다 어떤 선택지와 기준을 줄지, 어느 점수부터 자동 처리할지를 설계해야 한다.
외부 도구 연동은 오픈라우터(OpenRouter), 랭체인(LangChain), 버셀(Vercel), 라이트LLM(LiteLLM), 파이단틱 AI(Pydantic AI), 파이프캣(Pipecat), 라이브킷(LiveKit), 오픈코드(OpenCode) 등으로 확대 중이다. 구글은 구글 클라우드(Google Cloud)의 제미나이 지원도 곧 제공하겠다고 밝혔다. 현재 안내된 시작점은 구글 AI 스튜디오다. 빠른 판단을 기존 개발 흐름에 얼마나 쉽게 붙일 수 있는지와 별개로, 이용 가능한 환경이 넓어지는 속도도 도입 판단에 영향을 준다.
커뮤니티 의견
한 사용자는 이런 결정 전용 모델이 왜 이제야 제품군의 한 자리를 차지했는지 놀랍다고 했다. 형식이 제한된 JSON을 출력하게 하는 기존 방식으로도 단순 분류는 가능했지만, 선택지의 확률을 얻는 문제는 달랐다는 주장이다. 답글에서는 일반 언어 모델의 ‘예’와 ‘아니요’에 해당하는 출력 확률을 비교하는 방법도 제시됐다. 다른 사용자는 언어 모델을 다시 결정 모델로 압축해도 쓸 만한 결과가 나온다는 점 자체가 흥미롭다고 봤다.
확률을 어떻게 해석할지 묻는 의견도 이어졌다. 한 사용자는 언어 모델에 신뢰도를 물을 때 생기는 문제를 다룬 글을 소개했고, 그 글의 작성자는 제브(Jev)에 관한 후속 글도 있다고 알렸다. 관심사는 모델이 높은 숫자를 말할 수 있느냐보다, 그 숫자가 실제 판단의 근거가 될 수 있느냐에 있다.
실제 사용처를 묻는 질문에는 학습 데이터의 항목에 라벨을 붙인 뒤, 별도로 남겨 둔 데이터와 다른 모델로 결과를 확인한다는 답이 달렸다. 또 다른 사용자는 코딩 에이전트가 매 단계에서 작업을 끝냈는지 판단하도록 제브를 호출하는 기능을 직접 만들었다고 했다. 결정 모델을 완성된 답변 생성기가 아니라 작업 흐름 중간의 확인 장치로 쓰는 사례다.
한 사용자는 같은 계열의 다른 결정 모델보다 이번 제품이 비싸다고 보면서도, 음성과 영상을 입력받는 점에는 쓸모가 있다고 평가했다. 답글에서는 이미지 파일에 여러 질문을 던져 태그를 붙이는 자체 시스템을 운영 중이라는 경험이 나왔다. 이들에게 비교 기준은 글 분류 성능만이 아니라, 이미 돌아가는 이미지 처리 흐름을 바꿀 만큼의 이점이 있는지다.
가격을 보는 시선도 엇갈렸다. 한 사용자는 긴 문맥에 수백 가지 질문을 붙일 수 있다면 AI 판단 비용이 매우 낮아진 셈이라고 봤고, 답글에서는 사람이 업무를 중단하고 확인해야 할 사안인지 가려내는 데 유용했다는 경험이 나왔다. 반면 다른 사용자는 자신이 시험한 리퀴드(Liquid)의 글 입력 모델 가격인 100만 토큰당 0.02달러와 비교해 구글의 0.10달러가 높다고 지적했다. 경쟁 모델과 능력을 더 자세히 비교할 자료가 필요하다는 요구도 덧붙였다.
별도의 평가를 돌린 사용자는 여러 작업에서 제미나이 디시전 1의 브라이어 점수(Brier score, 확률 예측의 오차를 재는 지표)가 제브보다 낮았다고 주장했다. 그가 관찰한 범위는 작업에 따라 2~6배였고, 지연시간 중앙값도 100밀리초 넘게 낮았지만 전체 평가 비용은 두 배였다고 했다. 이는 구글의 발표 수치가 아니라 한 사용자의 시험 결과다. 성능 향상과 추가 비용을 함께 놓고 봐야 한다는 사례이기도 하다.
비교 대상을 더 넓혀야 한다는 의견도 있었다. 한 사용자는 구글이 임베딩 젬마 2(Embedding Gemma 2)를 결정 작업에 쓰는 방법과 이번 API의 차이를 궁금해했고, 다른 사용자는 별도의 결정 도구와도 비교하고 싶다고 했다. 로컬에서 비공개로 실행하고 CPU에서도 학습할 수 있는 분류 도구를 대안으로 소개한 댓글도 나왔다. 마지막에는 현재 구글 AI 스튜디오에서 제공되는 기능이 구글 클라우드의 버텍스(Vertex)에는 언제 들어올지 묻는 질문이 올라왔다.
핵심통찰
제미나이 디시전스 API가 바꾸려는 것은 AI가 쓰는 답변의 모양보다 답변 전후의 작업 흐름이다. 하나의 자료에 많은 질문을 붙이고 결과를 확률로 받으면, 모델 선택·검토·도구 실행 같은 작은 판단을 빠르게 이어 붙일 수 있다. 다만 자동 처리의 경계선을 정하는 제품에서는 평균적인 정답률만큼 확률의 보정 상태가 중요하다. 앞으로는 실제 작업에서 애매한 사례를 얼마나 잘 사람에게 넘기는지, 여러 형식의 입력을 쓸 때 늘어나는 비용이 경쟁 대안 대비 납득할 만한지를 지켜봐야 한다.
원본: Gemini Decisions API: Fast, calibrated multimodal decisions
토론: Hacker News