技术发布2026年11月21日Редакция 105.kz

Gemini API 引入 Tool Retrieval:工具架构改为按需加载

Google 在 Gemini API 中以预览模式推出 Tool Retrieval:智能体可以看到所有工具的名称和描述,但只在需要时才加载其参数架构。本文分析这对面向 АСУ ТП 与 ТОиР 的智能体意味着什么,以及在封闭环境中应用这一方法的障碍。

工业制造企业私有化大模型预测性维护

Gemini API 引入 Tool Retrieval:工具架构改为按需加载

要点。 Google 在预览模式下为 Gemini API 推出 Tool Retrieval:智能体把工具库“放在仓库里”,仅在需要时加载参数架构,而不是在每个请求中都发送。对工厂而言,这是一种架构手法,而不是现成解决方案:服务是云端的,因此在有 on-premise 要求的环境中应用它需要单独论证,而 token 节省必须在自有流量上测量。

发生了什么

2026 年 11 月 19 日,Google 宣布在 Gemini API 中推出 Tool Retrieval——该功能在 Interactions API 中以预览(preview)模式提供。文章作者为 Gemini API 产品经理 Lucia Loher 与 Google DeepMind 研究科学家 Nora Kassner。该功能要解决的问题是:不在每次请求中发送智能体所连接的全部工具的完整参数架构,而是按需加载。

官方给出的原因:当智能体连接数十或数百个工具时,发送全部架构会“使输入 token 数量膨胀、增加延迟,并随着候选列表变长而降低工具选择准确率”。开启方式是 tool_search 工具,以及对需要延后加载的工具设置 defer_loading: true 标志:模型可以看到每个工具的名称和描述,但参数架构不进入上下文。当需要某个工具时,模型按名称请求,API 加载架构,模型调用函数——全部在同一个请求内完成。三个步骤在 interaction.steps 中可见(tool_search_call、tool_search_result、function_call);作者指出,这便于调试工具名称与描述。

发布内容补充:无需构建和托管索引,检索在 Gemini 服务端完成,代码中只改动新工具和标志。该方案与 prefix caching 以及远程 MCP 服务器兼容:对 mcp_server 设置 defer_loading: true 会延后该服务器提供的全部工具。另有客户端方式("execution": "client"),由应用自身执行检索:每次检索增加一次 round trip,但可以在对话中途接入新工具并考虑用户权限。Tool Retrieval 不单独收费——按标准价格计费;tool_search 增加一个较小的固定输入 token 块,每个已加载的架构在对话结束前按输入 token 计费。Interactions API 中支持 Gemini 3.6 及更新模型,包括全部 Gemini 4 模型。

对哈萨克斯坦企业意味着什么

对工厂而言,这个话题是实用性的。面向 ТОиР 的智能体几乎从不只连接一个工具:需要接入 АСУ ТП 与 SCADA 历史库、设备运行时长与故障历史、泵和引风机轴承的振动诊断结果、МТО 物资目录、规程与作业许可(наряд-допуск)。来源所描述的问题即便没有 Gemini 也不陌生:候选清单越长,选中正确工具的准确率越低。Tool Retrieval 提出的是一种组织层面的做法——把工具库“放在仓库里”,按需加载架构,而高频调用的工具保持已加载状态。

智能体工具类别 数据 延迟加载时的要点
参数历史读取 SCADA/АСУ ТП 历史库、位号、累计运行时长 工具描述中的位号名称不应泄露多余信息
诊断 振动频谱、温度、电流 参数架构体积大、调用频次低——适合延迟加载
文档 规程、设备说明书、运行说明 高频调用,最好保持加载
ТОиР 操作 工单、作业许可、МТО 取决于用户权限——这是采用客户端检索的理由

哈萨克斯坦语境下有两个限制。第一:Gemini API 是云服务,而对国资企业和地下资源用户(недропользователи)而言,常态要求是 on-premise 与个人数据本地化;把外部 API 接入 АСУ ТП 环境只能在进行单独的信息安全评估之后(评估)。第二:延迟加载时,模型仅凭名称和描述判断工具——因此俄语描述,以及在必要场合的哈萨克语描述必须无歧义,不含同义词和内部行话。这是单独的工作,而不是顺带产生的效果(评估)。

对于在封闭环境中构建智能体的人,这篇发布的价值不在服务本身,而在模式:工具注册表、架构延迟加载、作为调试手段的检索步骤日志。在 on-premise 环境复现这一模式是单独的工程任务(评估);遗留 АСУ ТП 与异构的设备台账使其并不简单。

如何落地:8–12 周试点

  1. 工具与责任人注册表(1–2 周)。 列出智能体需要调用的系统:SCADA 历史库、振动诊断、МТО 目录、规程、ТОиР 工单。为每个工具记录责任人、数据类别、所需权限、调用频次。没有这份注册表,延迟加载只会流于形式。
  2. 数据分类与运行环境选择(1 周)。 单独标注涉及人员和商业秘密的工具,以及涉及工艺参数的工具。这决定了外部 API 是否可行,还是需要带本地模型的封闭环境——参见企业级 LLM。
  3. 基于自有流量的基线(2 周)。 来源直接建议在自有流量上衡量效果。收集工程师和调度员的 50–100 条真实请求,记录 token 消耗、延迟以及正确选择工具的比例。这是验收的基准。
  4. 单一领域的试点(4–6 周)。 限定场景,例如泵类与引风机设备的诊断。把检索步骤日志当作分析错误的工作工具:它显示模型考虑过哪些工具。相邻的任务类别见预测性维护。
  5. 验收(1 周)。 指标:工具选择准确率、成功调用比例、单次请求成本、延迟、“无数据”正确拒答的比例。是否推广按数字决定,而不是按演示决定。

限制与风险

  • 预览状态。 来源中没有任何关于 SLA、稳定性以及转为正式可用时间的信息。对工业环境而言,这是阻断性因素(评估)。
  • 没有任何实测数字。 Google 声称输入 token 减少、选择准确率提升,但没有给出任何节省或延迟方面的测量。目前所有说法都是厂商声明,而不是测量结果。
  • 节省是有条件的。 来源本身也说明:只有当未加载架构省下的部分超过已加载架构时,token 才节省。已加载的架构在对话结束前持续计费,而 tool_search 还会额外增加一个固定 token 块。
  • 客户端检索每次检索增加一次 round trip——这一点被明确指出,并会影响对话延迟。
  • 描述质量是薄弱环节。 模型只能看到名称和描述;措辞不严谨时,选择准确率会下降而不是上升。
  • 服务的云属性。 对哈萨克斯坦国资企业和地下资源用户而言,on-premise 与数据本地化的要求并未解除。来源中没有关于该服务在哈萨克斯坦的可用性,以及对俄语和哈萨克语支持的信息。
  • 工业细节未披露。 来源中没有关于与 OPC 服务器、工业协议及遗留 АСУ ТП 协同工作的信息;示例是 MCP 服务器和退款处理函数。对生产系统的适用性是需要用试点验证的假设,而不是事实。

来源

  1. Introducing Tool Retrieval in the Gemini API · 2026-11-19T18:00:00.000Z
    Load tool parameter schemas on demand instead of sending your full tool library in every prompt, designed to reduce input tokens and keep tool selection accurate as your agent scales.
  2. Фото: Linda Spashett Storye_book — Bradford Industrial Museum 030.jpg (CC BY 3.0, Wikimedia Commons)

本文借助人工智能根据上方所列来源撰写。如发现不准确之处,请发送邮件至 info@105.kz。

常见问题

常见问题

对我们最常被问到的问题的简短直接回答。

能否在没有互联网出口的封闭环境中使用 Tool Retrieval?

来源对此没有任何说明;Gemini API 是 Google 的云服务。做法本身——把工具库放在自己一侧并按需加载架构——可以在自有环境中复现,但那是单独的开发工作(评估),而不是设置一个标志。

这能为我们的智能体节省 token 吗?

不一定。来源指出,节省出现在未加载架构省下的部分超过已加载架构时,并建议在自有流量上测量效果。发布中没有保证的百分比。

模型对延迟加载的工具究竟知道什么?

只有名称和描述。参数架构不在上下文中,在访问工具时——同一次请求内——才被加载。

需要构建并托管检索索引吗?

服务端方式下不需要,检索由 Gemini 执行。客户端方式(`"execution": "client"`)适用于企业有自己的工具注册表或用户权限过滤的情况;此时每次检索增加一次 round trip。

下一步

洽谈试点项目

告诉我们您的需求——我们将在两个工作日内反馈数据审计方案和效益评估。

  1. 130 分钟通话:任务、现有系统、由谁做决定
  2. 2梳理数据与流程,给出带周期与成本区间的分阶段计划
  3. 32–4 周原型,或成功标准预先约定的 8–12 周试点

首次接触即签署保密协议(NDA)

一个工作日内回复