NVIDIA/aicr

它解决了什么问题

运行 GPU 加速的 Kubernetes 集群通常不可靠，因为内核版本、驱动程序、容器运行时和 Kubernetes 版本之间的小差异可能会导致难以诊断的故障。AI Cluster Runtime (AICR) 通过提供称为“配方”(recipes) 的版本锁定、经过验证的配置，消除了这种猜测，确保针对特定工作负载使用正确的软件和硬件组合。

运作方式

AICR 使用配方引擎，将用户的目标环境（云服务商、GPU 类型、操作系统和工作负载意图）与经过验证的 overlays 和 mixins 库进行匹配。然后，它使用打包工具将这些配方转换为适用于热门 GitOps 工具（如 Helm、Argo CD、Flux 和 Helmfile）的部署就绪成品。为了确保集群按预期运行，Snapshot Agent 会捕获集群的实时状态，AICR 验证器随后会将其与原始配方进行比较，以检查配置漂移或性能问题。

目标对象

为 AI 训练和推理工作负载管理跨各种云服务商（AWS、GCP、Azure）或本地环境的 GPU 加速 Kubernetes 集群的平台工程师和 DevOps 团队。

特色亮点

• 多部署器支持：生成与 Argo CD、Flux、Helm 和 Helmfile 兼容的套件。
• 全面验证：包含针对部署、性能（训练/推理）和一致性的多阶段验证。
• 供应链安全：使用 Cosign/Sigstore 实现 SLSA Build Level 3 来源证明、签名的 SBOM 和镜像认证。
• 漂移检测：能够比较集群快照以识别随时间发生的配置变更。
• 广泛的硬件支持：针对多种 NVIDIA GPU 进行了验证，包括 H100、A100、B200 和 L40S。