google/ax

An open source distributed agent runtime

解決的問題

AX 解決了執行自主且長時間運行的 AI 代理所面臨的基礎設施挑戰。傳統執行環境通常針對無狀態服務或批次作業設計,對於具有突發性(在強烈運算與長時間閒置之間交替,例如等待人工審核)的代理工作負載效率低下。AX 提供一個分散式執行環境,能夠管理狀態、確保可靠性,並允許代理在中斷後暫停與恢復,而不會遺失進度。

工作原理

AX 作為一個分散式 harness 執行環境,能從映像動態建立隔離環境來執行代理與 harness。它採用單一寫入者架構,並使用持久化事件日誌來維持一致狀態,並支援從故障中自動復原。當部署於相容平台(如 Kubernetes 上的 Agent Substrate)時,可暫停與恢復計算層代理,從而實現高密度的代理工作負載。

適用對象

專為希望從單體代理轉向分散式 harness 的開發者與研究人員設計,其中工具、技能與代理皆作為獨立代理進行部署。

主要特色

  • 分散式執行環境:在隔離環境中執行 harness、技能與代理。
  • 原生恢復支援:支援從中斷中自動恢復,並支援暫停/恢復有狀態代理。
  • 持久化執行:使用事件日誌確保狀態管理與可靠性。
  • 可擴展性:透過 HarnessService 支援自訂環境設定、MCP 工具與自訂 harness 實作。
  • Kubernetes 優化:專為在 Kubernetes 上提供高密度代理工作負載體驗而設計。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案