mckinsey/agents-at-scale-ark

解決的問題

Ark 解決了供應商鎖定與大規模部署 AI 代理時的運維複雜性問題。它提供了一種建立可移植且與供應商無關的代理應用的方法，這表示這些應用可以在不同的 AI 模型或雲端環境之間移動，而無需重寫底層程式碼。

工作原理

Ark 是一個 Kubernetes 原生框架，採用宣告式方法。開發者無需撰寫專有的程式碼來定義代理的行為，而是將代理定義為 Kubernetes 自訂資源。這些設定包含代理的提示詞、工具與模型參考。由於基於 Kubernetes 建構，它可利用現有的安全、監控與角色基礎存取控制（RBAC）基礎設施，可在單機或跨多雲及在地環境中執行。

適用對象

適用於需要建構、託管與擴展分散式 AI 代理系統，同時保持靈活切換 AI 供應商或以最小開銷重新部署使用案例的開發人員與運維團隊。

核心亮點

• 供應商無關：可輕鬆在 OpenAI、Anthropic、Google、Azure 或本地 Ollama 等不同供應商之間切換。
• 多代理編排：支援多種團隊策略，包括順序、圖形、選擇器與輪詢模式。
• 宣告式設定：代理以資源形式定義，而非硬編碼邏輯。
• 可擴展工具鏈：支援與 HTTP API、MCP 伺服器及其他代理整合。
• 持久化記憶體：提供可插入後端，以在會話間保持對話上下文。
• A2A 協定：支援與外部代理系統互操作。