NVIDIA/libnvidia-container
NVIDIA container runtime library
해결하는 문제
GNU/Linux 컨테이너가 NVIDIA GPU를 사용하도록 설정하는 과정을 간소화합니다. 컨테이너 환경 내에서 하드웨어 접근 및 드라이버 라이브러리에 대한 수동 설정이 필요 없어집니다.
작동 방식
이 프로젝트는 커널 프리미티브를 활용하여 컨테이너의 루트 파일시스템을 자동으로 구성하는 라이브러리와 명령줄 인터페이스(CLI) 유틸리티를 제공합니다. 특정 컨테이너 런타임에 의존하지 않도록 설계되었습니다.
대상 사용자
어떤 컨테이너 런타임을 사용하든 상관없이 Linux 컨테이너에 NVIDIA 하드웨어를 노출시켜야 하는 개발자 및 시스템 관리자입니다.
주요 기능
- 컨테이너용 NVIDIA 하드웨어를 자동으로 구성합니다.
- 런타임에 독립적인 구현입니다.
- 직접 구성용 CLI 유틸리티를 포함합니다.
- Ubuntu, Debian, CentOS, Amazon Linux 등 여러 Linux 배포판을 지원합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
NVIDIA/k8s-device-pluginNVIDIA k8s‑device‑plugin은 NVIDIA GPU를 위한 Kubernetes의 device‑plugin API를 구현한 공식 DaemonSet입니다. GPU를 검색하고, 상태를 보고하며, `nvidia.com/gpu` 리소스(선택적 MIG 및 shared‑GPU 모드 포함)를 통해 스케줄링 가능하게 만듭니다. 각 노드에 NVIDIA 드라이버와 컨테이너 툴킷을 설치하고, 플러그인(정적 매니페스트 또는 Helm)을 배포한 다음 pod 스펙에서 GPU를 요청합니다. 구성은 플래그, 환경 변수 또는 YAML 파일을 통해 가능하며, MIG 전략, 장치 목록 전달, 공유 GPU(타임 슬라이싱 또는 MPS) 등을 다룹니다. 이 플러그인은 베타 버전이며, 완전한 상태 확인/정리가 부족하고 공식 NVIDIA 버전만 지원됩니다.
- 프로젝트
basetenlabs/trussAI/ML 모델을 본격적인 운영 환경으로 패키징하고 배포하기 위한 CLI 도구로, 컨테이너화, GPU 구성, 종속성 관리를 자동화합니다.
- 프로젝트
mmartial/ComfyUI-Nvidia-DockerNVIDIA GPU 가속을 지원하는 ComfyUI Stable‑Diffusion 웹 UI를 실행하는 Docker 이미지로, GPU 전용 태그, UID/GID 매핑, 그리고 ComfyUI‑Manager 내장으로 간편한 업데이트를 제공합니다.