Google于11月19日宣布,Gemini Interactions API开始预览Tool Retrieval,用来处理智能体连接数十乃至数百个工具时,完整参数结构反复占用上下文的问题。
开发者可将部分工具设为defer_loading=true,并加入tool_search。模型仍能看到这些工具的名称和描述;当任务需要某项工具时,API再取回其完整参数结构,并在同一次交互中继续调用。这样可避免每轮都发送长尾工具的全部schema。该功能支持Gemini 3.6及之后的模型,包括Gemini 4系列。
Google称此功能没有单独收费,但被检索到的schema仍按模型标准输入Token计费,tool_search本身也会增加少量固定输入。因此,当多数工具schema不会用到时才更可能节省Token;实际成本与延迟应按自己的工具库和流量测量。目前仍是预览功能。
来源:Google官方博客
https://blog.google/innovation-and-ai/technology/developers-tools/gemini-api-tool-retrieval/ |