Cloudflare AI 代理架构与开源的未来

Cloudflare AI 代理架构与开源的未来

构建高效的 AI 代理架构

Cloudflare 正在利用有状态的无服务器编程和动态代码执行，打造一种可与云托管代理平台竞争的替代方案。目标是超越简单的 CRUD API，走向更灵活、具代理特性的软体架构。

核心基础设施原语

Sunil Pai 识别出两个关键原语，他认为它们将成为所有基础设施平台的标准：

  • Durable Objects（持久对象）： 这些提供有状态的无服务器编程，在基础设施层直接实现 actor 模型，而不是在用户层实现。这使得可以创建数百万在后台运行、具备无服务器特性的有状态实体，避免启动完整虚拟机的需求。
  • Dynamic Workers（动态 Workers）： 该技术允许安全执行用户生成或 LLM 生成的代码，且零启动时间。为确保安全，Cloudflare 建议默认取消所有出站流量，仅向环境暴露特定、受控的 API。

通过代码执行改进工具调用

传统的工具调用在面对庞大的 API 表面时常常失效。例如，Cloudflare API 拥有 2,600 个端点；将每个端点都暴露为单独的工具将极其低效。

相反，Cloudflare 使用“搜索并执行”模式。用户向一个 isolate（隔离环境）提交 JavaScript 代码，该代码搜索 OpenAPI JSON 并执行所需操作。这使得诸如查找所有 Workers 并对以特定字母开头的 Workers 应用 DDoS 防护等复杂操作，能够在一次工具调用中完成，而无需与 LLM 多次往返交互。

寻找标准的代理 Harness（执行框架）

业界目前缺乏用于构建 AI 代理的标准化、跨平台架构。Pai 将当前时代比作 React 之前的时期，指出虽然许多公司正在构建自己的“harness”（与智能层分离的执行环境），但跨语言、跨基础设施的统一、可复现的标准尚未出现。

开源文化与 Fork 的作用

“Slop Forks”的价值

在软件文化中，fork 代码被视为一种声望和尊重的象征。Pai 认为 fork 是开源增长的根本，并为开发者提供战略优势：通过 fork 一个依赖，开发者实际上“拥有”它，避免上游变更或漏洞带来的风险（如 Axios 事件的例子）。

现代仓库的对抗性

尽管 fork 有诸多好处，维护开源仓库的环境却日益对抗。Pai 指出，许多维护者现在因以下原因不愿意获得人气：

  • 假安全报告： 大量高度逼真但无效的安全报告，旨在骚扰或破坏维护者。
  • 供应链攻击： 通过攻击流行仓库（例如 Open Claw）来实现对广泛用户基数的远程代码执行风险。

面对这些挑战，包括 Agents SDK 在内的一些项目已将贡献限制为仅提交 issue，并使用 LLM 帮助维护者处理和解决这些问题。

对软件开发的原创性呼吁

Pai 鼓励开发者摆脱仅仅构建现有工具的增量改进或追逐企业合作的思路。相反，他倡导“构建科幻作品”——原创、狂野的项目，推动当前基础设施和 LLM 的边界，以触发技术的下一次跃迁。

摘要：Sunil Pai 讨论了 Cloudflare 如何利用 Durable Objects 和 Dynamic Workers 构建高效的 AI 代理架构，并呼吁回归原创的、‘科幻’式软件开发以及开源 fork 的精神。

标题：Cloudflare AI 代理架构与开源的未来

Sources