Gemini API 推出 Tool Retrieval:智能体按需加载工具

谷歌在 Gemini API 中推出了 Tool Retrieval,目前已在 Interactions API 中开启预览。该功能让 AI 智能体可以将数十甚至数百个工具置于待命状态,仅在任务需要时才加载每个工具的参数结构,而不是在每次请求中发送全部完整定义。

根据 Gemini API 产品经理 Lucia Loher 与 Google DeepMind 研究科学家 Nora Kassner 于 2026 年 11 月 19 日发布的公告,每次调用都发送全部结构会推高输入 token 数量、增加延迟,并随着工具列表变长而降低工具选择的准确性。

工作原理

开发者只需在请求中添加一个 tool_search 工具,并为希望延后加载的工具设置 defer_loading: true。模型仍能看到每个延后工具的名称和描述,因此知道有哪些工具可用,但参数结构在被请求之前不会进入上下文。当模型需要某个工具时,它按名称提出请求,API 加载完整结构,模型随即发出函数调用——全部在同一次请求内完成。

谷歌给出的示例是一位客服智能体:顾客报告订单 A-1042 收到时已损坏,并要求退款 40 美元。模型搜索 issue_refund 函数,API 加载其结构,随后完成调用。tool_search_call、tool_search_result 和 function_call 这三个步骤都会出现在 interaction.steps 中,便于调试时查看模型考虑过哪些工具。

开发者无需自行构建或托管索引,搜索由 Gemini 服务器端执行。最常用的工具可以继续预先加载,只有“长尾”工具延后加载。该功能还与前缀缓存兼容:延后的结构位于提示开头之外,因此缓存的前缀在多次调用之间保持不变。

价格、模型与 MCP

Tool Retrieval 不单独收费:输入和输出 token 按所调用模型的标准费率计费。启用 tool_search 会增加一小块固定的输入 token,而模型加载的每个结构会在本次对话的剩余时间内按输入计费。当从未加载的结构多于实际加载的结构时即可节省成本——据谷歌称,这正是大型工具库的常见情况。

该功能适用于 Gemini 3.6 及更高版本模型,包括全部 Gemini 4 模型,且仅支持 Interactions API。它还支持远程 MCP 服务器:将 mcp_server 工具标记为 defer_loading: true 后,该服务器公开的所有工具都会按需加载。此外还有客户端检索变体,适合自行维护工具注册表的开发者——该模式每次搜索会增加一次往返,并且可以在对话中途公开新工具。

这一思路并非首创:Anthropic 于 2025 年 11 月、OpenAI 于 2026 年 3 月推出了设计类似的工具搜索功能。谷歌未公布 token 节省、延迟或工具选择准确性的实测数据,也未给出正式发布日期——作为预览功能,其接口在稳定版发布前可能发生变化。

该功能发布于谷歌向开发者开放 Genie 4 API 的同一周:更新:谷歌向开发者开放 Genie 4 API。

图片来源: Google / Wikimedia Commons

来源

透明度说明:本文在人工智能的协助下完成,内容综合了 X 上的公开帖文与互联网来源。请查阅原始来源以确认相关信息。

作者:Muse