Cloudflare AI 代理架構與開源的未來

Cloudflare AI 代理架構與開源的未來

建構高效的 AI 代理架構

Cloudflare 正利用有狀態的無伺服器程式設計與動態程式碼執行，打造一個可與雲端管理代理平台競爭的替代方案。目標是超越簡單的 CRUD API，朝向更彈性、具代理特性的軟體架構前進。

核心基礎設施原語

Sunil Pai 指出兩個關鍵原語，他認為這兩者將成為所有基礎設施平台的標準：

  • Durable Objects（持久物件）：提供有狀態的無伺服器程式設計，直接在基礎設施層實作 actor model，而非在使用者層。這讓數百萬個有狀態的實體能在背景中以無伺服器特性運行，免除啟動完整虛擬機的需求。
  • Dynamic Workers（動態 Workers）：此技術允許安全執行使用者產生或 LLM 產生的程式碼，且零啟動時間。為確保安全，Cloudflare 建議預設取消所有外發流量，僅向環境暴露特定、受控的 API。

透過程式碼執行改善工具呼叫

傳統的工具呼叫在面對龐大的 API 表面時常失效。例如，Cloudflare API 擁有 2,600 個端點；若將每個端點都當作獨立工具暴露，效率極低。

相反地，Cloudflare 採用「搜尋與執行」模式。使用者將 JavaScript 程式碼提交給一個 isolate，該 isolate 會搜尋 OpenAPI JSON，然後執行所需的動作。這使得複雜操作——例如找出所有 workers 並對以特定字母開頭的 worker 套用 DDoS 防護——能在單一次工具呼叫中完成，無需與 LLM 進行多次往返互動。

尋找標準的代理 Harness（執行環境）

目前產業缺乏一套標準化、跨平台的 AI 代理建構架構。Pai 將當前時代比作 React 出現之前的階段，指出雖然許多公司正自行打造「harness」（與智慧層分離的執行環境），但尚未出現跨語言、跨基礎設施的統一、可重現的標準。

開源文化與 Fork 的角色

「Slop Fork」的價值

Fork 代碼在軟體文化中被視為一種聲望與尊重的象徵。Pai 主張 Fork 是開源成長的根本，且為開發者提供策略優勢：透過 Fork 依賴，開發者實質上「擁有」該套件，避免上游變更或漏洞帶來的風險（如 Axios 問題的例子）。

現代倉庫的對抗性

儘管 Fork 有諸多好處，維護開源倉庫的環境卻日益充滿對抗性。Pai 指出許多維護者現在因以下原因不願追求人氣：

  • 假冒安全報告：大量高度逼真但無效的安全報告，旨在騷擾或破壞維護者。
  • 供應鏈攻擊：透過入侵熱門倉庫（例如 Open Claw）以在廣大使用者基礎上取得遠端程式碼執行的風險。

面對這些挑戰，一些專案（包括 Agents SDK）已將貢獻限制為僅提交 issue，並使用 LLM 協助維護者處理與解決這些問題。

呼籲軟體開發的原創性

Pai 鼓勵開發者遠離僅僅打造現有工具的漸進式改良或追逐企業合約的做法。相反地，他倡導「打造科幻作品」——原創、狂野的專案，推動當前基礎設施與 LLM 的極限，以觸發技術的下一次飛躍。

摘要：Sunil Pai 討論了 Cloudflare 如何利用 Durable Objects 與 Dynamic Workers 建構高效的 AI 代理架構，並呼籲回歸原創、具「科幻」色彩的軟體開發與開源 Fork 文化。

標題：Cloudflare AI 代理架構與開源的未來

Sources