kvcache-ai/AgentENV

AgentENV (AENV) is a distributed platform for running agent environments at scale.

它解決的問題

AgentENV 提供了一個可擴展的平台,用於運行 AI 代理執行程式碼或與軟體互動所需的隔離環境(沙盒)。它特別解決了在叢集上運行數百萬種不同環境時,不會耗盡本地磁碟空間,也不會浪費 CPU 和記憶體於閒置沙盒的挑戰。

如何運作

AgentENV 使用 Firecracker microVM 來建立輕量且隔離的沙盒。它採用多項技術優化,以維持高密度與高速度:

  • 映像管理:使用 overlaybd 按需載入符合 OCI 標準的映像,允許映像總數超過本地磁碟容量。
  • 快速生命週期:實作快照支援的啟動與恢復(低於 50ms)以及暫停(低於 100ms),以最小化資源浪費。
  • 狀態管理:支援增量記憶體與檔案系統快照,並可將正在執行的環境「分叉」成多個獨立沙盒。
  • 資源效率:使用 ublk 進行高效能 I/O,並透過記憶體氣球技術回收來賓記憶體,實現高記憶體超分配比例。

適用對象

專為訓練代理式強化學習(Reinforcement Learning)模型(如 Kimi K3)的開發者與研究人員設計,也適用於需要部署大規模、與 E2B 兼容的代理沙盒的使用者。

特色亮點

  • 巨大規模:可在生產環境中擴展至 150 萬個映像。
  • 快速恢復:啟動或恢復沙盒時間低於 50ms。
  • 支援分叉:可將正在執行的環境複製成多個平行工作流程。
  • E2B 兼容性:提供與 E2B SDK 相容的 HTTP API,可輕鬆整合至現有的代理工具中。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案