mckinsey/agents-at-scale-ark
Provider-agnostic operations for agentic resources. ARK codifies patterns and practices developed across dozens of agentic application projects.
解决的问题
Ark 解决了供应商锁定和大规模部署 AI 代理时的运维复杂性问题。它提供了一种构建可移植且与供应商无关的代理应用的方法,这意味着这些应用可以在不同的 AI 模型或云环境之间迁移,而无需重写底层代码。
工作原理
Ark 是一个 Kubernetes 原生框架,采用声明式方法。开发者无需编写专有的代码来定义代理的行为,而是将代理定义为 Kubernetes 自定义资源。这些配置包括代理的提示词、工具和模型引用。由于基于 Kubernetes 构建,它利用现有的安全、监控和基于角色的访问控制(RBAC)基础设施,可在单机或跨多云及本地环境中运行。
适用人群
适用于需要构建、托管和扩展分布式 AI 代理系统,同时保持灵活切换 AI 供应商或以最小开销重新部署用例的开发人员和运维团队。
核心亮点
- 供应商无关:可轻松在 OpenAI、Anthropic、Google、Azure 或本地 Ollama 等不同供应商之间切换。
- 多代理编排:支持多种团队策略,包括顺序、图、选择器和轮询模式。
- 声明式配置:代理以资源形式定义,而非硬编码逻辑。
- 可扩展工具链:支持与 HTTP API、MCP 服务器及其他代理集成。
- 持久化内存:提供可插拔后端,以在会话间保持对话上下文。
- A2A 协议:支持与外部代理系统互操作。
相关
- 项目
- 项目
- 项目
- 项目
- 项目