谷歌Gemini API推出工具检索预览 降低智能体调用开销

谷歌正式在 Gemini Interactions API 推出 Tool Retrieval 工具检索预览功能,核心作用就是解决 AI 智能体挂载大量工具时 token 开销过高、响应延迟大的痛点。以往开发智能体,每次调用 API 都要把全部工具完整参数定义塞进提示词,工具库规模越大,输入 token 消耗越多、成本越高,现在开启工具检索后,模型不会一次性加载全部工具 schema,只会在任务需要的时候按需拉取对应工具的完整参数定义,直接减少输入 token 数量,降低智能体的调用成本,同时缩短请求延迟。该预览功能适配 Gemini 3.6 及更新版本,包含 Gemini 4 系列模型,支持 MCP 远程服务,工具检索本身不单独收取额外服务费,只按照底层模型标准 token 计费,非常适合需要挂载几十到上百个工具的复杂 AI 智能体项目。

工具检索降低智能体调用开销的底层原理

  1. 新旧模式差异,传统方式每次请求附带全部工具完整 schema,不管任务会不会用到,都会持续消耗 token;工具检索把工具精简摘要和完整参数 schema 拆分,请求初期只携带简短工具描述。
  2. 按需加载机制,当模型判断当前任务需要调用某个工具,才会通过内置 tool_search 检索,把这个工具完整参数 schema 加载进上下文,不用的工具全程不占用 token。
  3. 减少上下文冗余,工具 schema 只在需要时载入,降低单次请求输入 token 总量,进而降低 API 调用费用,同时减少传输数据量,降低接口响应延迟。
  4. 适配大规模工具库,智能体可以维护上百个工具,不会因为工具数量暴涨导致每轮调用成本失控,方便开发者搭建功能丰富的复杂智能体。

新旧调用模式对比表

对比项传统全量工具挂载模式Gemini API 工具检索预览模式
工具 schema 加载时机每次 API 请求一次性加载全部工具任务需要时,按需加载单个工具完整 schema
token 开销工具越多,每轮请求 token 越高工具量大时,token 消耗显著下降;少量工具可能增加检索开销
适用场景工具数量很少(10 个以内)几十到上百个工具的大型智能体
延迟工具多,传输量大,延迟偏高大型工具库场景延迟更低
额外费用无工具检索功能本身不单独收费,仅收取标准 token 费用

开发者启用工具检索操作步骤

  1. 确认模型版本,项目使用 Gemini 3.6 及以上版本(含 Gemini4),使用 Gemini Interactions API。
  2. 请求参数开启配置,在请求体中添加 tool_search 工具,同时设置 defer_loading 为 true,启用延迟加载。
  3. 整理工具描述,精简每个工具的简短摘要,方便模型检索匹配对应的工具,工具完整 schema 放在服务端备用。
  4. 压力与成本测试,上线前对比开启前后 token 消耗、响应延迟,工具数量较少场景需要评估是否划算。
  5. 业务迭代优化,持续优化工具摘要,提升模型检索工具的准确率,减少无效检索带来的额外 token 损耗。

总结

谷歌 Gemini API 推出的工具检索预览功能,核心就是改变智能体一次性加载全部工具参数的旧模式,采用按需加载 schema 方案,降低大规模工具库场景下的 token 开销与接口延迟。这个功能不是所有场景都省钱,工具数量少的智能体,检索本身会带来少量额外 token 成本,收益有限;工具数量几十上百个的复杂 AI 智能体,降本效果会非常明显。开发者需要结合自身工具规模,测试后再部署上线。

【相关 FAQ】

问题 1:谷歌 Gemini API 工具检索预览,是怎么降低智能体调用开销的?

回答 1:谷歌 Gemini API 工具检索预览通过按需加载工具参数 schema,不用每次请求带上全部工具定义,减少输入 token 消耗,以此降低智能体调用开销,工具越多,降本效果越突出。

问题 2:开启谷歌 Gemini API 工具检索预览,会额外收取功能服务费吗?

回答 2:开启谷歌 Gemini API 工具检索预览,这个功能本身不单独收费,只会按照选用 Gemini 模型的标准输入输出 token 计费,检索动作会产生少量固定 token 开销。

问题 3:谷歌 Gemini API 工具检索预览,所有 AI 智能体都适合开启吗?

回答 3:谷歌 Gemini API 工具检索预览更适合挂载几十到上百个工具的大型 AI 智能体;如果智能体只有少量工具,检索带来的额外 token 开销可能抵消收益,不建议盲目开启。

【参考资料】

[2026-11-20](谷歌 Gemini API 上线工具检索预览,降低 AI 智能体 token 开销)AI 前线

[2026-11-20](Google launches Gemini API Tool Retrieval preview to cut agent token cost)DEV Community

[2026-11-19](Introducing Tool Retrieval in the Gemini API)Google 官方博客

[2026-11-19](Gemini Interactions API 新增工具检索预览,支持 MCP 远程工具)机器之心

【免责声明】

本文信息基于谷歌官方公告与科技媒体公开资讯整理,仅作为技术科普,不构成开发、采购决策建议。Gemini API 工具检索属于预览版本,功能、计费规则后续可能调整,开发者请以 Google AI 官方文档为准,上线前做好充分测试。

本文来自作者[虚芯时序师]投稿,不代表新新网立场,如若转载,请注明出处:https://ldwb.xxcmw.com/zixun/202611/4919.html

赞 (1)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 虚芯时序师
    虚芯时序师 2026年11月20日

    我是新新网的签约作者“虚芯时序师”!

  • 虚芯时序师
    虚芯时序师 2026年11月20日

    希望本篇文章《谷歌Gemini API推出工具检索预览 降低智能体调用开销》能对你有所帮助!

  • 虚芯时序师
    虚芯时序师 2026年11月20日

    本站[新新网]内容主要涵盖:互联网行业的追踪与探索

  • 虚芯时序师
    虚芯时序师 2026年11月20日

    本文概览:谷歌正式在 Gemini Interactions API 推出 Tool Retrieval 工具检索预览功能,核心作用就是解决 AI 智能体挂载大量工具时 token

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们