Cua 和 CUA-S1:用於 AI 電腦使用的開源基礎設施
Cua 是一個開源生態系統,旨在為 AI 代理提供必要的基礎設施,使其能夠在 macOS、Windows 和 Linux 上與原生桌面應用程式和瀏覽器互動。此框架引入了「電腦使用 2.0」的範式,其中代理能在單一任務中無縫切換執行程式碼、呼叫 API,以及與圖形使用者介面(GUI)互動。
CUA-S1:專用的「系統 1」決策模型
CUA-S1 是一組小型、專用的模型,專為快速、有限的決策(稱為「系統 1」決策)而設計,而非通用規劃或逐字元的文字生成。這些模型旨在補足通用代理的推理能力,處理特定且重複的介面互動。
專注於決策評分
CUA-S1 的初始研究重點在於表單。這些模型不會生成回應,而是根據結構化介面元素和文件值對決策進行評分。此方法讓應用程式程式碼能決定行動順序,而可選的 Cua Driver 則負責以明確的行動邊界執行實際操作。
可用性與授權
CUA-S1 目前為僅提供原始碼的研究版本。Python 模型程式碼、合成資料產生與評估工具採 MIT 授權,並可在 GitHub 上取得,而模型權重與資料集(如 CUA-S1-FORMS)則 hosted 在 Hugging Face 上。
Cua Driver:跨平台桌面自動化
Cua Driver 提供代理檢視與操作原生桌面應用程式和瀏覽器所需的工具。它支援 macOS、Windows 和 Linux,並提供背景傳遞功能,讓代理能在不移動使用者游標或取得焦點的情況下與應用程式互動,前提是平台與應用程式支援此功能。
代理可透過 CLI、Model Context Protocol (MCP) 或類型安全的 SDK 連接到 Cua Driver。它設計用於與現有的代理框架整合,例如 Claude Code、Codex、Cursor 和 OpenClaw。
代理部署的基礎設施
Cua 提供兩種主要方式來配置代理運作的環境:
Cua Fleets
Cua Fleets 允許使用者配置隔離的雲端桌面。使用 Sandbox SDK,開發者可從資源池中取得桌面,執行命令、截取畫面,並在沙盒環境中與應用程式互動。
Lume
Lume 是一個工具,可使用 Apple 的 Virtualization.Framework 在 Apple Silicon 上建立和管理本地的 macOS 與 Linux 虛擬機。這讓開發者能在隔離的本地環境中執行代理,例如從 Apple 備份映像建立 macOS Tahoe 虛擬機並透過 SSH 連接。
Cua Bench:評估與訓練
Cua Bench 是一個用於建立電腦使用任務、評估代理效能以及匯出軌跡以供訓練的框架。它允許建立不需要 VM、Docker 或模型 API 金鑰的模擬任務,從而實現代理獎勵的快速測試與驗證。
社群見解與技術討論
社群成員指出,從文字生成轉向決策評分的架構轉變,是電腦使用上一個特別有趣的觀點。討論也開始出現關於專用模型層級架構的可能性:
想法是擁有許多專用模型(表單、維基百科、Final Cut 等),並由一個父模型選擇最佳的模型……讓大型語言模型提出一個大目標,並觸發一連串專用模型快速完成任務?
這暗示了一種可能的演進方向:由高階規劃者(系統 2)將特定的 GUI 互動委派給一組專用的 CUA-S1 模型(系統 1)。
Sources
相關
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch