cloudflare/agents

Build and deploy AI Agents on Cloudflare

What it solves

Cloudflare Agents 提供了一個用於構建和部署 Agentic 工作負載的持久化、有狀態執行環境的框架。它解決了管理數百萬個獨立 Agent（例如，每個用戶或會話一個）的生命週期、狀態和通信的問題，這些 Agent 可在閒置時休眠並在需要時喚醒，從而降低成本和運維開銷。

How it works

基於 Cloudflare Durable Objects，每個 Agent 都是一個具有其自身存儲和生命週期的有狀態實體。該框架通過 @callable() 裝飾器提供了一個類型安全的 RPC 系統，允許客戶端像調用本地函數一樣調用 Agent 的方法。它支持通過 WebSockets 將狀態變化實時同步到連接的客戶端，並集成了 AI 模型、MCP (Model Context Protocol) 和持久化多步工作流。

Who it’s for

開發人員正在構建 AI Agent、實時協作應用程序或需要在邊緣端進行持久化狀態和 AI 集成的有狀態服務。

Highlights

  • Persistent State: 狀態在重啟後仍然存在，並自動同步到所有連接的客戶端。
  • AI Capabilities: 包括用於 AI 聊天、語音流水線 (STT/TTS) 以及 "Code Mode"（其中 LLM 生成可執行的 TypeScript 代碼）的專用包。
  • Sandboxed Execution: 能力在一個具有虛擬文件系統的隔離 Worker 中運行 LLM 生成的代碼。
  • MCP Support: 可以作為 MCP 服務器或客戶端來擴展 Agent 能力。
  • Infrastructure Integration: 內置支持調度、電子郵件和 x402 pay-per-call 支付。
  • Frontend Integration: 專用 React hooks (useAgent, useAgentChat) 用於無縫的前端連接。