cncf/k8s-ai-conformance

Kubernetes AI Conformance

解决的问题

它解决了在 Kubernetes 平台上运行 AI 与机器学习工作负载时缺乏标准化的问题。由于 AI 工作负载对加速器、网络与调度有独特需求，常会遇到“在我的集群上可以运行”的问题。本项目提供了一项认证计划，确保 AI 应用程序在不同符合标准的平台上皆具备可移植性。

运作方式

该计划定义了一套 Kubernetes 平台必须具备的能力，才能被视为 AI 符合标准 (AI-conformant)。供应商需经过认证流程，包含：

  1. 先决条件：平台必须先符合 base Kubernetes Conformant。
  2. 验证：供应商完成符合性检查清单并提供证据（文档或 URLs）。对于较新版本 (v1.37+)，建议执行自动化测试套件以产生如 e2e.log 与 results.json 等产出物。
  3. 提交：供应商提交包含检查清单与证据的 pull request 给 CNCF 进行审核。
  4. 认证：一旦核准，平台将获得为期一年的认证。

目标对象

  • 平台供应商：提供基于 Kubernetes 平台并希望为其 AI/ML 工作负载基础设施进行认证的厂商。
  • 贡献者：希望协助定义 AI 工作负载类型需求（包含训练、推理与代理工作流程）的开发者与研究人员。
  • AI 应用程序开发者：希望拥有可靠基准以进行构建与测试，确保应用程序能在不同集群间运行的用户。

重点特色

  • 广泛的工作负载覆盖：专注于分布式训练、LLM 推理与多步骤代理工作流程。
  • 混合验证：结合手动证明与自动化测试结果，实现更快速、客观的验证。
  • 供应商中立基准：作为社区主导的努力，旨在防止平台锁定 (lock-in)。

相关

  • 项目
    kubeflow/kubeflow

    Kubeflow 是一个开源、基于 Kubernetes 的平台，将训练、管道、笔记本、服务等模块化 AI/ML 工具打包成一个可移植、可扩展的堆栈，覆盖整个模型生命周期。

  • 项目
    verifywise-ai/verifywise

    VerifyWise 是一个开源 AI 治理平台，允许企业对模型进行清单管理、评估 LLM、将风险映射到标准（欧盟 AI 法案、ISO 42001、NIST AI RMF 等），并生成审计就绪报告。它采用 React 前端、Node.js 后端、PostgreSQL/Redis 存储和用于 LLM 测试的 Python EvalServer。可通过 Docker/Kubernetes 在本地或私有云中部署，包括 AI 检测、策略管理、Slack/Jira 集成和 AI 顾问聊天。

  • 项目
    FullAgent/fulling

    Fulling 是一个用于构建专用 AI 工作空间的基础设施，将运行时、内存和技能结合在安全的基于 Kubernetes 的凭证边界内。

  • 项目
    kubeflow/community-distribution

    Kubeflow Community Distribution 提供精选的 Kubernetes 清单（通过 Kustomize），用于在 Kind、EKS、GKE 等集群上安装完整的 Kubeflow ML 平台，包括 Pipelines、Notebooks、Katib、KServe、Istio 等。它支持单命令或逐组件部署，每年发布两次稳定版本，并包含 CI 测试的安装脚本。

  • 项目
    vfarcic/dot-ai

    一个通过 npm 发布出的 Node 库，为 Kubernetes/DevOps 工作流提供 LLM 驱动的助手。它提供 CLI 和托管平台 (MCP)，用于自然语言集群查询、部署建议、自动化修复、策略驱动的提示词库，以及语义文档搜索，所有功能都已打包好，可轻松安装在 Kubernetes 集群中。