NVIDIA/libnvidia-container

NVIDIA container runtime library

解决的问题

简化了为 GNU/Linux 容器配置 NVIDIA GPU 的过程。消除了在容器化环境中手动配置硬件访问和驱动库的需要。

工作原理

该项目提供一个库和一个命令行界面（CLI）工具，利用内核原语自动配置容器的根文件系统。其设计与所使用的特定容器运行时无关。

适用人群

无论使用何种容器运行时，都需要将 NVIDIA 硬件暴露给 Linux 容器的开发者和系统管理员。

特色

  • 自动为容器配置 NVIDIA 硬件。
  • 运行时无关的实现。
  • 包含一个用于直接配置的 CLI 工具。
  • 支持多种 Linux 发行版，包括 Ubuntu、Debian、CentOS 和 Amazon Linux。

相关

  • 项目
    NVIDIA/gpu-operator

    一个用于 Kubernetes 的自动化工具，可将 NVIDIA GPU 驱动程序、运行时和监控工具作为容器进行安装和生命周期管理。

  • 项目
    NVIDIA/open-gpu-kernel-modules

    NVIDIA开放GPU内核模块的Linux源代码发布，支持构建和安装Turing及更新GPU的内核级驱动程序组件。

  • 项目
    NVIDIA/k8s-device-plugin

    NVIDIA k8s‑device‑plugin 是一个官方的 DaemonSet，为 NVIDIA GPU 实现了 Kubernetes 的 device‑plugin API。它会发现 GPU、报告健康状况，并通过 `nvidia.com/gpu` 资源（包含可选的 MIG 与 shared‑GPU 模式）使其可被调度。在每个节点上安装 NVIDIA 驱动程序和容器工具包，部署该插件（使用静态清单或 Helm），然后在 pod 规格中请求 GPU。配置可通过标志、环境变量或 YAML 文件进行，涵盖 MIG 策略、设备列表传递、共享 GPU（时间切片或 MPS）等。该插件目前为 beta 版，缺乏完整的健康检查/清理机制，且仅支持官方 NVIDIA 版本。

  • 项目
    basetenlabs/truss

    用于将 AI/ML 模型打包并部署到生产环境的 CLI 工具，自动化容器化、GPU 配置和依赖管理。

  • 项目
    mmartial/ComfyUI-Nvidia-Docker

    支持 NVIDIA GPU 加速的 ComfyUI Stable‑Diffusion Web UI 的 Docker 镜像，提供 GPU 专用标签、UID/GID 映射和内置 ComfyUI‑Manager，便于轻松更新。