|
AWS于10月23日介绍开源研究项目Infinity：AI智能体调用工具后，运行时保存对话状态并挂起任务；等工具结果或外部事件到达，再从保存状态恢复。这样等待中的Agent不必一直占用运行进程，项目也探索了在无服务器平台上运行长时间任务。
AWS称，Infinity由AWS与加州大学伯克利分校合作的Hydro项目推动，现以Apache 2.0许可开放。其基准测试在单线程AMD EPYC和内存存储条件下运行80,000个Agent、完成320万次模型调用；测得空闲Agent内存约100KB，并据此估算8GB内存可容纳约75,000个空闲Agent。这个数字是特定基准下的估算，不代表真实生产负载的普遍容量。
Infinity目前仍是早期研究发布，项目文章也列出了事件真实性、调度策略等未解决问题。
官方来源：
[url=https://aws.amazon.com/blogs/opensource/introducing-infinity-a-runtime-for-extreme-agent-concurrency/]Introducing Infinity: a runtime for extreme agent concurrency[/url] |
0