AWS 開源 Infinity 執行環境，讓數千個代理同時長時間運行

摘要

AWS 開源部落格介紹 Infinity，這是與 UC Berkeley 合作、屬於 Hydro 專案的研究執行環境，目標是支援極高併發的 AI 代理。Infinity 在工具呼叫前後以無堆疊協程暫停與恢復代理，用極少記憶體支撐數千個並行代理，並允許長時間、事件驅動的代理工作流，同時支援無伺服器部署，讓底層函式在代理等待時結束。執行環境採有界執行切片、保存代理歷史，並把工具呼叫視為暫停點，還引入合成工具呼叫，在既有模型 API 內傳遞非同步事件與代理間訊息。專案以 Apache 2.0 開源、發布於 GitHub，並提供數分鐘內建立簡單代理的快速入門；屬早期研究版本，徵求社群回饋。