giovtorres/slurm-docker-cluster

A Slurm cluster using docker-compose

解決的問題

Slurm Docker Cluster 提供了一種透過 Docker Compose 快速部署完整功能 Slurm 集群的方法。它消除了高階運算(HPC)環境複雜的手動設定過程,讓開發者無需實體硬體叢集即可測試工作排程、開發 HPC 應用程式並管理運算資源。

運作方式

此專案採用多容器架構,將 Slurm 環境的每個元件分離於獨立容器中。包含用於會計的資料庫(MySQL)、用於排程的控制器(slurmctld),以及使用動態註冊加入叢集的可擴展運算節點(c1、c2 等)。此外也提供可選元件,如用於程式化存取的 REST API、用於網頁介面的 Open OnDemand,以及用於工作監控的 Elasticsearch/Kibana 堆疊。

適用對象

專為需要 Slurm 相容環境進行開發、測試或輕量級使用的開發者與研究人員設計,特別適合那些需要在多節點間進行工作排程的 HPC 軟體或 AI/ML 工作負載使用者。

主要特色

  • 可擴展運算節點: 無需重建叢集即可動態擴展 CPU 與 GPU 工作者。
  • GPU 支援: 與 NVIDIA CUDA 基礎映像及 NVIDIA Container Toolkit 整合,實現硬體加速。
  • 整合軟體管理: 內建 Spack 與 Lmod,方便科學軟體套件的安裝與管理。
  • 基於網頁的管理: 可選的 Open OnDemand 介面,支援瀏覽器端工作提交與檔案管理。
  • 多架構支援: 提供 AMD64 與 ARM64 架構的預先建置映像。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案