告别冗长文本!谷歌发布 Gemini Decisions API:单次前向传递打分,端到端延迟压至 150 毫秒

   发布时间:2026-11-12 15:08 作者:CHINAZ

人工智能技术的演进正在从单纯的“生成内容”加速向“高效决策”转变。谷歌近日正式推出了全新的 Gemini Decisions API,这是一个由其底层的 Gemini Decision1模型驱动的全新端点,旨在帮助人工智能智能体在日常运行中做出极速的预设决策,彻底省去了传统模式下生成冗长文本回复的繁琐过程。

核心功能与运行机制:单次前向传递实现高效评分

在底层技术架构上,Gemini Decision1与传统大模型的运行方式有着本质区别。该模型不会采用逐个 Token 生成回复的方式,而是在单次前向传递中直接对预设的选项进行综合评分,最终返回对应的概率和置信度分数。

得益于这一高效的设计,该接口的端到端延迟被大幅压制在150到250毫秒之间,能够满足智能体在高频交互场景下的实时响应需求。

在具体的输入与调用形态方面,Gemini Decisions API 展现出了极强的多模态处理能力。开发人员可以针对包含文本、图像、音频、视频和 PDF 在内的共享多模态输入,在单次 API 调用中评估多达1000个独立问题。具体支持的调用形式包括:

快捷的“是或否”检查。

最多包含255个选项的多选题。

基于预设评分标准的打分请求。

普惠定价与应用前景

在价格策略方面,谷歌为该 API 制定了极具竞争力的标准:每百万输入 Token 的收费仅为0.10美元。

业内分析人士指出,随着大模型在各行各业的深度嵌入,智能体在后台执行复杂工作流时,往往需要进行大量的轻量级判断与路线选择。Gemini Decisions API 的推出,通过跳过文本生成的中间环节,不仅大幅降低了计算成本与响应延迟,也为构建更加流畅、反应迅速的复杂 AI 智能体应用提供了坚实的底层基础设施。

 
 
更多>同类内容
全站最新
热门内容
 
智快科技微信账号
微信群

微信扫一扫
加微信拉群
电动汽车群
科技数码群