agentenv/agentflow
Orchestrate thousands of agents and harnesses as a graph programatically
解決的問題
AgentFlow 提供了一種將多個 AI 代理(例如 Codex、Claude、Kimi 和 Pi)編排為複雜工作流程的方法。它解決了管理代理依賴關係、並行執行(扇出)、建立迭代反饋迴圈,以及在從本地 Docker 容器到遠端雲端實例等多樣環境中執行這些代理的困難。
工作原理
使用者使用 Python API 定義依賴圖,其中節點代表代理任務,邊則定義執行順序。系統支援:
- 並行性:
fanout函數可建立節點的多個副本以處理清單或字典資料,隨後可透過merge進行合併。 - 迭代循環:
on_failure機制允許節點在滿足特定成功條件(例如輸出中包含特定字串)前,循環返回到先前步驟。 - 彈性執行:代理可部署至多種「目標」,包括 Docker 容器、KVM 虛擬機(透過 Cloud Hypervisor)、SSH、EC2 或 ECS Fargate。
- 模型路由:透過
pi代理,可將請求路由至各種外部提供者(OpenAI、Anthropic、Groq 等)或本地端點(Ollama、LMStudio)。 - 基礎設施管理:與 SkyPilot 集成,可自動在雲端 GPU 上啟動 vLLM 或 SGLang 推理端點。
適用對象
專為需要建構複雜任務(如自動程式碼審查、漏洞發現或大規模資料處理)的多代理流程之開發者與研究人員設計,適用於需要隔離性與可擴展性的場景。
主要亮點
- 多樣化的執行目標:支援 Docker、Cloud Hypervisor(KVM)、SSH、EC2 和 ECS。
- 高階圖控管:內建對並行扇出、批次合併與迭代循環的支援。
- 優化代理演化:可利用成功執行的追蹤資料,演化並建立可重用的優化代理。
- 雲端 GPU 集成:與 SkyPilot 直接整合,實現推理伺服器的自動部署。
- 共享狀態:包含一個「便條板」,供圖中所有代理共享記憶體。
相關
- 專案
- 專案
- 專案
- 專案
- 專案