NVIDIA/libnvidia-container

NVIDIA container runtime library

解決的問題

簡化了為 GNU/Linux 容器配置 NVIDIA GPU 的過程。消除了在容器化環境中手動設定硬體存取與驅動程式庫的需要。

本專案提供一個函式庫與命令列介面（CLI）工具，利用核心原語自動配置容器的根檔案系統。其設計與所使用的特定容器執行時無關。

無論使用何種容器執行時，都需要將 NVIDIA 硬體暴露給 Linux 容器的開發者與系統管理員。

專案
NVIDIA/gpu-operator
一個用於 Kubernetes 的自動化工具，可將 NVIDIA GPU 驅動程式、執行時與監控工具作為容器進行安裝與生命週期管理。
專案
NVIDIA/open-gpu-kernel-modules
NVIDIA 開放 GPU 核心模組的 Linux 原始碼發布，支援建置和安裝 Turing 及更新 GPU 的核心層級驅動程式元件。
專案
NVIDIA/k8s-device-plugin
NVIDIA k8s‑device‑plugin 是一個官方的 DaemonSet，為 NVIDIA GPU 實作了 Kubernetes 的 device‑plugin API。它會探索 GPU、回報健康狀態，並透過 `nvidia.com/gpu` 資源（包含可選的 MIG 與 shared‑GPU 模式）使其可被排程。在每個節點上安裝 NVIDIA 驅動程式與容器工具組，部署該外掛程式（使用靜態清單或 Helm），然後在 pod 規格中請求 GPU。設定可透過旗標、環境變數或 YAML 檔案進行，涵蓋 MIG 策略、裝置列表傳遞、共享 GPU（時間切片或 MPS）等。該外掛程式目前為 beta 版，缺乏完整的健康檢查/清理機制，且僅支援官方 NVIDIA 版本。
專案
basetenlabs/truss
用於將 AI/ML 模型打包並部署至生產環境的 CLI 工具，自動化容器化、GPU 設定與相依性管理。
專案
mmartial/ComfyUI-Nvidia-Docker
支援 NVIDIA GPU 加速的 ComfyUI Stable‑Diffusion Web UI 的 Docker 映像，提供 GPU 專用標籤、UID/GID 對應與內建 ComfyUI‑Manager，便於輕鬆更新。