原始來源aws.amazon.com
摘要
AWS 开源部落格介绍 Infinity,这是与 UC Berkeley 合作、属于 Hydro 专案的研究执行环境,目标是支援极高并发的 AI 代理。Infinity 在工具呼叫前后以无堆叠协程暂停与恢复代理,用极少记忆体支撑数千个并行代理,并允许长时间、事件驱动的代理工作流,同时支援无伺服器部署,让底层函式在代理等待时结束。执行环境采有界执行切片、保存代理历史,并把工具呼叫视为暂停点,还引入合成工具呼叫,在既有模型 API 内传递非同步事件与代理间讯息。专案以 Apache 2.0 开源、发布于 GitHub,并提供数分钟内建立简单代理的快速入门;属早期研究版本,征求社群回馈。
重點整理
- 平台团队可评估以协程暂停取代长时间轮询,降低记忆体与运算成本,但须注意其属研究阶段。
- 要建置多代理长期任务平台的团队,可先以开源执行环境验证并发模型与成本结构。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要,可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準;內容不構成投資、法律或稅務建議。