谷歌正式在 Gemini Interactions API 推出 Tool Retrieval 工具检索预览功能,核心作用就是解决 AI 智能体挂载大量工具时 token 开销过高、响应延迟大的痛点。以往开发智能体,每次调用 API 都要把全部工具完整参数定义塞进提示词,工具库规模越大,输入 token 消耗越多、成本越高,现在开启工具检索后,模型不会一次性加载全部工具 schema,只会在任务需要的时候按需拉取对应工具的完整参数定义,直接减少输入 token 数量,降低智能体的调用成本,同时缩短请求延迟。该预览功能适配 Gemini 3.6 及更新版本,包含 Gemini 4 系列模型,支持 MCP 远程服务,工具检索本身不单独收取额外服务费,只按照底层模型标准 token 计费,非常适合需要挂载几十到上百个工具的复杂 AI 智能体项目。
工具检索降低智能体调用开销的底层原理
- 新旧模式差异,传统方式每次请求附带全部工具完整 schema,不管任务会不会用到,都会持续消耗 token;工具检索把工具精简摘要和完整参数 schema 拆分,请求初期只携带简短工具描述。
- 按需加载机制,当模型判断当前任务需要调用某个工具,才会通过内置 tool_search 检索,把这个工具完整参数 schema 加载进上下文,不用的工具全程不占用 token。
- 减少上下文冗余,工具 schema 只在需要时载入,降低单次请求输入 token 总量,进而降低 API 调用费用,同时减少传输数据量,降低接口响应延迟。
- 适配大规模工具库,智能体可以维护上百个工具,不会因为工具数量暴涨导致每轮调用成本失控,方便开发者搭建功能丰富的复杂智能体。
新旧调用模式对比表
| 对比项 | 传统全量工具挂载模式 | Gemini API 工具检索预览模式 |
|---|---|---|
| 工具 schema 加载时机 | 每次 API 请求一次性加载全部工具 | 任务需要时,按需加载单个工具完整 schema |
| token 开销 | 工具越多,每轮请求 token 越高 | 工具量大时,token 消耗显著下降;少量工具可能增加检索开销 |
| 适用场景 | 工具数量很少(10 个以内) | 几十到上百个工具的大型智能体 |
| 延迟 | 工具多,传输量大,延迟偏高 | 大型工具库场景延迟更低 |
| 额外费用 | 无 | 工具检索功能本身不单独收费,仅收取标准 token 费用 |
开发者启用工具检索操作步骤
- 确认模型版本,项目使用 Gemini 3.6 及以上版本(含 Gemini4),使用 Gemini Interactions API。
- 请求参数开启配置,在请求体中添加 tool_search 工具,同时设置 defer_loading 为 true,启用延迟加载。
- 整理工具描述,精简每个工具的简短摘要,方便模型检索匹配对应的工具,工具完整 schema 放在服务端备用。
- 压力与成本测试,上线前对比开启前后 token 消耗、响应延迟,工具数量较少场景需要评估是否划算。
- 业务迭代优化,持续优化工具摘要,提升模型检索工具的准确率,减少无效检索带来的额外 token 损耗。
总结
谷歌 Gemini API 推出的工具检索预览功能,核心就是改变智能体一次性加载全部工具参数的旧模式,采用按需加载 schema 方案,降低大规模工具库场景下的 token 开销与接口延迟。这个功能不是所有场景都省钱,工具数量少的智能体,检索本身会带来少量额外 token 成本,收益有限;工具数量几十上百个的复杂 AI 智能体,降本效果会非常明显。开发者需要结合自身工具规模,测试后再部署上线。
【相关 FAQ】
问题 1:谷歌 Gemini API 工具检索预览,是怎么降低智能体调用开销的?
回答 1:谷歌 Gemini API 工具检索预览通过按需加载工具参数 schema,不用每次请求带上全部工具定义,减少输入 token 消耗,以此降低智能体调用开销,工具越多,降本效果越突出。
问题 2:开启谷歌 Gemini API 工具检索预览,会额外收取功能服务费吗?
回答 2:开启谷歌 Gemini API 工具检索预览,这个功能本身不单独收费,只会按照选用 Gemini 模型的标准输入输出 token 计费,检索动作会产生少量固定 token 开销。
问题 3:谷歌 Gemini API 工具检索预览,所有 AI 智能体都适合开启吗?
回答 3:谷歌 Gemini API 工具检索预览更适合挂载几十到上百个工具的大型 AI 智能体;如果智能体只有少量工具,检索带来的额外 token 开销可能抵消收益,不建议盲目开启。
【参考资料】
[2026-11-20](谷歌 Gemini API 上线工具检索预览,降低 AI 智能体 token 开销)AI 前线
[2026-11-20](Google launches Gemini API Tool Retrieval preview to cut agent token cost)DEV Community
[2026-11-19](Introducing Tool Retrieval in the Gemini API)Google 官方博客
[2026-11-19](Gemini Interactions API 新增工具检索预览,支持 MCP 远程工具)机器之心
【免责声明】
本文信息基于谷歌官方公告与科技媒体公开资讯整理,仅作为技术科普,不构成开发、采购决策建议。Gemini API 工具检索属于预览版本,功能、计费规则后续可能调整,开发者请以 Google AI 官方文档为准,上线前做好充分测试。
本文来自作者[虚芯时序师]投稿,不代表新新网立场,如若转载,请注明出处:https://ldwb.xxcmw.com/zixun/202611/4919.html
评论列表(4条)
我是新新网的签约作者“虚芯时序师”!
希望本篇文章《谷歌Gemini API推出工具检索预览 降低智能体调用开销》能对你有所帮助!
本站[新新网]内容主要涵盖:互联网行业的追踪与探索
本文概览:谷歌正式在 Gemini Interactions API 推出 Tool Retrieval 工具检索预览功能,核心作用就是解决 AI 智能体挂载大量工具时 token