agentenv/agentflow

Orchestrate thousands of agents and harnesses as a graph programatically

解決的問題

AgentFlow 提供了一種將多個 AI 代理(例如 Codex、Claude、Kimi 和 Pi)編排為複雜工作流程的方法。它解決了管理代理依賴關係、並行執行(扇出)、建立迭代反饋迴圈,以及在從本地 Docker 容器到遠端雲端實例等多樣環境中執行這些代理的困難。

工作原理

使用者使用 Python API 定義依賴圖,其中節點代表代理任務,邊則定義執行順序。系統支援:

  • 並行性fanout 函數可建立節點的多個副本以處理清單或字典資料,隨後可透過 merge 進行合併。
  • 迭代循環on_failure 機制允許節點在滿足特定成功條件(例如輸出中包含特定字串)前,循環返回到先前步驟。
  • 彈性執行:代理可部署至多種「目標」,包括 Docker 容器、KVM 虛擬機(透過 Cloud Hypervisor)、SSH、EC2 或 ECS Fargate。
  • 模型路由:透過 pi 代理,可將請求路由至各種外部提供者(OpenAI、Anthropic、Groq 等)或本地端點(Ollama、LMStudio)。
  • 基礎設施管理:與 SkyPilot 集成,可自動在雲端 GPU 上啟動 vLLM 或 SGLang 推理端點。

適用對象

專為需要建構複雜任務(如自動程式碼審查、漏洞發現或大規模資料處理)的多代理流程之開發者與研究人員設計,適用於需要隔離性與可擴展性的場景。

主要亮點

  • 多樣化的執行目標:支援 Docker、Cloud Hypervisor(KVM)、SSH、EC2 和 ECS。
  • 高階圖控管:內建對並行扇出、批次合併與迭代循環的支援。
  • 優化代理演化:可利用成功執行的追蹤資料,演化並建立可重用的優化代理。
  • 雲端 GPU 集成:與 SkyPilot 直接整合,實現推理伺服器的自動部署。
  • 共享狀態:包含一個「便條板」,供圖中所有代理共享記憶體。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案