Google在Gemini Interactions API预览Tool Retrieval:工具可延迟加载完整参数schema,模型需要时再检索并调用,支持Gemini 3.6及之后版本。功能无单独费用,但被加载schema仍按标准输入Token计费,节省幅度需按实际 ...
|
Google 于 11 月 19 日宣布,Gemini Interactions API 开始预览 Tool Retrieval,用来处理智能体连接数十乃至数百个工具时,完整参数结构反复占用上下文的问题。 开发者可将部分工具设为 defer_loading=true,并加入 tool_search。模型仍能看到这些工具的名称和描述;当任务需要某项工具时,API 再取回其完整参数结构,并在同一次交互中继续调用。这样可避免每轮都发送长尾工具的全部 schema。该功能支持 Gemini 3.6 及之后的模型,包括 Gemini 4 系列。 Google 称此功能没有单独收费,但被检索到的 schema 仍按模型标准输入 Token 计费,tool_search 本身也会增加少量固定输入。因此,当多数工具 schema 不会用到时才更可能节省 Token;实际成本与延迟应按自己的工具库和流量测量。目前仍是预览功能。 来源:Google 官方博客 |
0