NVIDIA/dgx-spark-playbooks

Collection of step-by-step playbooks for setting up AI/ML workloads on NVIDIA DGX Spark devices with Blackwell architecture.

NVIDIA DGX Spark Playbooks

一套用于在 NVIDIA DGX Spark 设备(Blackwell 架构)上设置 AI/ML 工作负载的分步指南(手册)。每本手册都包含先决条件、说明、故障排除提示和示例代码。

内容概览

  • 安装和配置主流 AI 框架
  • 使用优化模型运行推理
  • 设置开发环境
  • 连接和管理多个 DGX Spark 设备

手册主题(大类)

  • 模型服务: vLLM, SGLang, TensorRT-LLM, llama.cpp, LM Studio, Open WebUI + Ollama, NIM, Nemotron
  • 微调: Unsloth, LLaMA Factory, PyTorch, NeMo, FLUX.1, GR00T, 视觉语言模型
  • 分布式计算: 连接 2 或 3 个 Spark, 环形拓扑, 通过交换机, NCCL, vLLM 集群
  • 开发环境: VS Code, CLI 编码代理, vibe coding, Tailscale 远程访问
  • 专业工作负载: cuPyNumeric, JAX, CUDA-X, cuOpt, 医疗保健代理, 视频处理, RAG, 聊天机器人
  • 系统管理: DGX Dashboard, MIG, 多 GPU 设置, 安全性 (OpenShell)

资源

许可

仓库中包含两个许可文件:LICENSE(针对仓库本身)和 LICENSE-3rd-party(针对第三方组件)。

相关

  • 项目
  • 项目
  • 项目
  • 项目