NVIDIA/dgx-spark-playbooks
Collection of step-by-step playbooks for setting up AI/ML workloads on NVIDIA DGX Spark devices with Blackwell architecture.
NVIDIA DGX Spark Playbooks
一套用于在 NVIDIA DGX Spark 设备(Blackwell 架构)上设置 AI/ML 工作负载的分步指南(手册)。每本手册都包含先决条件、说明、故障排除提示和示例代码。
内容概览
- 安装和配置主流 AI 框架
- 使用优化模型运行推理
- 设置开发环境
- 连接和管理多个 DGX Spark 设备
手册主题(大类)
- 模型服务: vLLM, SGLang, TensorRT-LLM, llama.cpp, LM Studio, Open WebUI + Ollama, NIM, Nemotron
- 微调: Unsloth, LLaMA Factory, PyTorch, NeMo, FLUX.1, GR00T, 视觉语言模型
- 分布式计算: 连接 2 或 3 个 Spark, 环形拓扑, 通过交换机, NCCL, vLLM 集群
- 开发环境: VS Code, CLI 编码代理, vibe coding, Tailscale 远程访问
- 专业工作负载: cuPyNumeric, JAX, CUDA-X, cuOpt, 医疗保健代理, 视频处理, RAG, 聊天机器人
- 系统管理: DGX Dashboard, MIG, 多 GPU 设置, 安全性 (OpenShell)
资源
许可
仓库中包含两个许可文件:LICENSE(针对仓库本身)和 LICENSE-3rd-party(针对第三方组件)。
相关
- 项目
- 项目
- 项目
- 项目