cncf/k8s-ai-conformance
Kubernetes AI Conformance
解决的问题
该项目建立了一种在 Kubernetes 上运行 AI/ML 工作负载的标准化方法。它通过定义 Kubernetes 平台必须满足的基本能力,解决了 AI 应用在一个集群上运行正常但在另一个集群上失败的平台特定不一致问题,从而确保平台可被认证为「AI 兼容」。
如何运作
该计划作为 Kubernetes 平台供应商的认证流程。供应商必须首先具备 Kubernetes 兼容性,然后提交自我评估清单以及公开证据(文档和测试结果),以证明其支持所需的 AI/ML 能力。从 v1.37 开始,该计划支持混合验证方法,结合自动化测试结果(如 Gang 调度和安全加速器访问)与人工证明。
适用对象
- Kubernetes 平台供应商:希望获得认证以证明其平台在 AI 工作负载上的可靠性。
- AI 工具开发者:需要一个清晰、与供应商无关的基准来构建和测试其工具。
- 终端用户:希望确保其 AI 工作负载可在不同 Kubernetes 平台间移植的用户。
主要亮点
- 广泛的工作负载支持:涵盖训练(分布式/大型作业)、推理(模型/LLM 服务)和代理工作负载(多步骤工作流)。
- 认证生命周期:认证有效期为一年,与 Kubernetes 发布周期对齐。
- 混合验证:结合自动化测试与人工文档审查。
- 供应商中立的基准:由社区主导的举措,确保整个生态系统的 AI 可移植性。
相关
- 项目
- 项目
- 项目
- 项目
- 项目