cloudflare/agents

Build and deploy AI Agents on Cloudflare

What it solves

Cloudflare Agents 提供了一个用于构建和部署 Agentic 工作负载的持久化、有状态执行环境的框架。它解决了管理数百万个独立 Agent(例如,每个用户或会话一个)的使得生命周期、状态和通信的问题,这些 Agent 可以在闲置时休眠并在需要时唤醒,从而降低成本和运维管理开销。

How it works

基于 Cloudflare Durable Objects,每个 Agent 都是一个具有其自身存储和生命周期的有状态实体。该框架通过 @callable() 装饰器提供了一个类型安全的 RPC 系统,允许客户端调用 Agent 的方法,就像它们是本地函数一样。它支持通过 WebSockets 将状态变化实时同步到连接的客户端,并集成了 AI 模型、MCP (Model Context Protocol) 和持久化多步工作流。

Who it’s for

开发者正在构建 AI Agent、实时协作应用或需要在边缘端进行持久化状态和 AI 集成的有状态服务。

Highlights

  • Persistent State: 状态在重启后仍然存在,并自动同步到所有连接的客户端。
  • AI Capabilities: 包括用于 AI 聊天、语音流水线 (STT/TTS) 以及 "Code Mode"(其中 LLM 生成可执行 TypeScript 代码)的专用包。
  • Sandboxed Execution: 能力在隔离的 Worker 中运行 LLM 生成的代码,具有虚拟文件系统。
  • MCP Support: 包括作为 MCP 服务器或客户端来扩展 Agent 能力。
  • Infrastructure Integration: 内置支持调度、电子邮件、和 x402 pay-per-call 支付。
  • Frontend Integration: 专用 React hooks (useAgent, useAgentChat) 用于无缝的前端连接。