2026-11-12 16:39

导语：一次前向传播让千道判断共享上下文。Gemini Decision 1是什么 Gemini Decision 1 是谷歌推

Gemini Decision 1是什么

Gemini Decision 1 是谷歌推出的首个决策模型，不聊天、只判断，单次调用可基于同一份多模态输入（文本、图片、音频、视频、PDF，最长 256K tokens）回答最多 1000 道是非题、选择题或打分题，一次性输出答案、各选项概率及 0~1 置信度，延迟 150~250ms。Gemini Decision 1 适合工具选择、内容审核、模型路由等批量判断场景。

Gemini Decision 1的主要功能

• 批量判断：一次调用基于同一份输入回答最多 1000 道题，而不是逐个提问。
• 三种题型：支持是非题（noul）、选择题（choice，2~255 个选项）和有序打分题（score）。
• 概率输出：每道题返回答案、各选项的归一化概率和 0~1 置信度，供代码做路由决策。
• 多模态输入：文本、图片、音频、视频、PDF 可直接混在同一份输入中一次评估。
• 置信度路由：置信度低的答案可自动转给 fallback 模型或人工复核。
• 低延迟：端到端 150~250ms，模型计算仅 50~100ms，且 1~100 题延迟几乎持平。

Gemini Decision 1的技术原理

• 单次前向传播打分：传统生成模型逐 token 解码答案，Gemini Decision 1 跳过解码环节，在候选选项上做一次性打分，每个选项直接输出一个概率分数。从根本上消除输出 token 的成本和串行解码的延迟，让计费模式可做到输出零费用。
• Gemini 原生多模态架构：模型是在统一的表征空间里直接处理文本、图片、音频、视频和 PDF，因此一份混合输入（如通话录音+账户信息、扫描单据+损毁照片）无需拆分或预处理，图像和视频输入还可调节分辨率以在视觉细节和 token 成本间取舍。
• 校准的置信度估计：模型输出的每个概率都经过校准训练，使其数值接近真实正确率，让置信度低于阈值就转人工这类自动化策略有可靠依据。
• 共享上下文复用：请求中的多份输入只编码一次，被所有题目复用，每道题仅追加自己的题干和选项 token，因此题目数量增加几乎不增加延迟和成本，是它一份输入收一次钱定价结构的技术基础。

如何使用Gemini Decision 1

• 申请 API Key：登录 Google AI Studio，创建或复制 API Key。
• 安装 SDK：确保 google-genai Python SDK 版本 ≥ 3.2（pip install -U google-genai）。
• 初始化客户端：用 genai.Client() 创建客户端，并指定 api_version="v1beta"（Decisions API 目前仅在 v1beta 提供）。
• 准备共享输入：把要做判断的内容放进 input 字段，支持文本、图片、音频、视频、PDF，可多种模态混用（同一份内容只收一次费）。
• 定义题目：在 questions 字典中定义每道题——是非题用 noul、选择题用 choice（2~255 个选项）、打分题用 score，单次最多 1000 道，可混用题型。
• 发起请求：调用 client.decisions.create(model="gemini-decision-1", ...)，等待 150~250ms 返回结果。
• 解析结果并路由：读取每题的答案、各选项概率和置信度，置信度低于阈值时转 fallback 模型或人工处理。

Gemini Decision 1的核心优势

• 延迟极低：端到端 150~250ms，1 道题和 100 道题的延迟几乎持平，适合实时路由、审核等在线场景。
• 多模态原生支持：文本、图片、音频、视频、PDF 可直接混在同一份输入中一次评估，无需预处理或拆分。
• 三种题型一站覆盖：是非题、多选题、打分题可在同一次请求中混用，最多 1000 道题共用一份输入。
• 置信度可校准：每个答案附带 0~1 置信度且校准误差业内最低，低置信度可自动转人工或 fallback。
• 一次前向传播出结果：跳过分步解码，直接对候选选项打分，因此快、便宜且结果结构化。

Gemini Decision 1的项目地址

• 项目官网：https://blog.google/innovation-and-ai/technology/developers-tools/gemini-decisions-api/

Gemini Decision 1的同类竞品对比

Gemini Decision 1的应用场景

• 模型路由：作为入口路由器，毫秒级判断查询难度，日常问题走轻量模型、复杂任务才调用深度推理，延迟可降 40%。
• 内容安全审核：对文本、图片、音视频做批量政策检查，低置信度自动转人工复核。
• 工具选择（Tool Selection）：在 Agent 场景中从 2~255 个工具里一次选出最合适的一个，比让 LLM 逐个生成调用快得多。
• 客服工单分级：结合通话录音和工单文本，用打分题（score）按严重度自动分级派单。
• 交互式应用秒级反馈：如 Stitch 快速生成可点击线框图、CC 从 200+ 表情中即时选反应，低延迟让即点即反馈成为可能。

来源：AI工具集