NVIDIA/dgx-spark-playbooks
Collection of step-by-step playbooks for setting up AI/ML workloads on NVIDIA DGX Spark devices with Blackwell architecture.
NVIDIA DGX Spark Playbooks
NVIDIA DGX Spark 장치(Blackwell 아키텍처)에서 AI/ML 워크로드를 설정하기 위한 단계별 가이드(플레이북) 모음입니다. 각 플레이북에는 사전 요구 사항, 지침, 문제 해결 팁 및 예제 코드가 포함되어 있습니다.
포함된 내용
- 널리 사용되는 AI 프레임워크 설치 및 구성
- 최적화된 모델을 사용한 추론 실행
- 개발 환경 설정
- 여러 DGX Spark 장치 연결 및 관리
플레이북 주제 (주요 카테고리)
- 모델 서빙: vLLM, SGLang, TensorRT-LLM, llama.cpp, LM Studio, Open WebUI + Ollama, NIM, Nemotron
- 파인튜닝: Unsloth, LLaMA Factory, PyTorch, NeMo, FLUX.1, GR00T, 비전 언어 모델
- 분산 컴퓨팅: 2개 또는 3개의 Spark 연결, 링 토폴로지, 스위치를 통한 연결, NCCL, vLLM 클러스터
- 개발 환경: VS Code, CLI 코딩 에이전트, vibe coding, Tailscale 원격 액세스
- 특수 워크로드: cuPyNumeric, JAX, CUDA-X, cuOpt, 헬스케어 에이전트, 비디오 처리, RAG, 챗봇
- 시스템 관리: DGX Dashboard, MIG, 멀티 GPU 설정, 보안 (OpenShell)
리소스
라이선스
저장소에는 두 개의 라이선스 파일이 포함되어 있습니다: LICENSE (저장소 자체용) 및 LICENSE-3rd-party (타사 구성 요소용).
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트