AWS 开源 Infinity：让等待中的 AI Agent 几乎不占资源
阿哲教你玩AI · 2026-10-25T15:45:16
Agent 大部分时间其实都在等：等代码构建、等 PR 合并、等人工审批。但很多运行环境在这个过程中，会一直占着系统进程和内存。 AWS 和 UC Berkeley 合作开源了一个叫 Infinity 的早期研究型运行时，采用 Apache 2.0 协议。它的思路类似协程，在 Agent 发起工具调用（tool call）时直接保存对话并把 Agent 挂起，等结果返回再唤醒，等待期间不消耗算力。在 AWS 自己的模拟测试里，一个挂起空闲的 Agent 大概只占 100KB 内存，一台 8GB 内存的树莓派 5 理论上能塞下约 7.5 万个。