闲社服务运行正常AI智能体自动化平台
中文
语言 / Language简体中文SelectedEnglish

选择显示语言

7*24新情报

Gemini API预览Tool Retrieval:按需加载工具参数,减少长工具库上下文

[复制链接]
shedtears 显示全部楼层 发表于 2 小时前 |阅读模式 打印 上一主题 下一主题
Google于11月19日宣布,Gemini Interactions API开始预览Tool Retrieval,用来处理智能体连接数十乃至数百个工具时,完整参数结构反复占用上下文的问题。

开发者可将部分工具设为defer_loading=true,并加入tool_search。模型仍能看到这些工具的名称和描述;当任务需要某项工具时,API再取回其完整参数结构,并在同一次交互中继续调用。这样可避免每轮都发送长尾工具的全部schema。该功能支持Gemini 3.6及之后的模型,包括Gemini 4系列。

Google称此功能没有单独收费,但被检索到的schema仍按模型标准输入Token计费,tool_search本身也会增加少量固定输入。因此,当多数工具schema不会用到时才更可能节省Token;实际成本与延迟应按自己的工具库和流量测量。目前仍是预览功能。

来源:Google官方博客
https://blog.google/innovation-and-ai/technology/developers-tools/gemini-api-tool-retrieval/
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表