Google发布Gemini Decisions API,不做生成只做决策
来源标题:Google built an AI model that can’t write a sentence — and that’s the point
Google周三推出Gemini Decisions API,用新模型Gemini Decision 1一次性评估预设选项,而非逐字生成文本,以更低成本和更快速度处理AI应用每天数千次的常规决策。测试工作负载响应时间为150至250毫秒,定价为每百万输入token 0.10美元且不收取输出token费用。该API支持256,000 token上下文窗口,可针对单条输入评估最多1000个独立问题。
以下正文由 AI 翻译自 The New Stack(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Google周三推出的全新Gemini Decisions API,旨在处理AI应用每天成千上万次的常规决策,相比传统生成式模型,成本更低、响应速度更快。
该API不再使用生成式模型逐一处理每个决策并生成文本回复,而是采用新模型Gemini Decision 1,一次前向计算即可评估预定义选项。
据Google介绍,在测试工作负载中,响应时间在150到250毫秒之间,定价为每百万输入token 0.10美元起,且不收取输出token费用。
此次发布距OpenAI推出自己的Decisions API仅数周之隔,TypeSafe AI和Microsoft也加入了这个日益壮大的市场——专注于构建不做文本生成、只做特定决策的模型。
一次计算,不生成文本
该API支持256,000 token的上下文窗口,可针对单次输入评估多达1,000个独立问题,包括多模态内容。其响应包含概率和置信度分数,开发者可据此在预定义选项之间做出选择、按特定标准评估信息,并决定应用应如何继续推进。
Google CEO Sundar Pichai在X上发帖称该模型“专为封闭集选择而构建”,而Google DeepMind产品经理Min Choi和首席科学家Felix Yu在发布公告中将该API描述为提供“面向有界选择的专用原语”。
Google已在哪些场景使用
Google已在内部使用该模型,包括在Gemini Notebook中,据称实时模型与推理层级路由将延迟降低了多达40%。Google搜索也用它来检测涉及MCP工具的潜在对抗行为。
基准测试数据来自Google
Google的基准测试结果显示,Gemini Decision 1优于OpenAI的GPT-6 Luna,不过与TypeSafe的Jev 1.14的竞争更为接近。
负责Google AI Studio和Gemini API产品的Logan Kilpatrick在X上称其为“Gemini API中我们新的前沿决策模型”。在JevBench上,Google的模型得分92.2%,Luna为90.9%,Jev为90%。
但在七项共同测试中,Jev有两项领先,且运行成本更低——完整基准测试套件花费0.68美元,而Gemini Decision 1为0.88美元。Google的模型在受测模型中校准误差最低。
所有基准测试数据均来自Google自己的测试,独立评估尚未确定这些模型在生产环境中的对比表现。SiliconANGLE还指出,按每token计算,Jev比Google的模型更便宜。
所有基准测试数据均来自Google自己的测试,独立评估尚未确定这些模型在生产环境中的对比表现。
开发者实际支付什么
开发者只需为发送共享上下文付费一次,即使针对该上下文提出多个问题也是如此,不过问题本身仍计入token用量。该API会分别评估每个问题,因此若某个工作流需要用上一个答案来决定下一个问题,则需要另一次调用。
Gemini Decision 1可通过Google AI Studio使用,提供免费原型层级,并可通过OpenRouter、LangChain、Vercel和LiteLLM集成。Google Cloud上的Gemini支持也在计划中,但Google尚未公布发布日期。
开发者只需为发送共享上下文付费一次,即使针对该上下文提出多个问题也是如此……
The post Google built an AI model that can’t write a sentence — and that’s the point appeared first on The New Stack.
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。