NVIDIA/deepops

Tools for building GPU clusters

何を解決するか

DeepOpsは、GPUサーバークラスターの展開と管理という複雑なプロセスを簡素化します。必要となるソフトウェアスタック(ドライバー、コンテナランタイム、クラスター管理ツール)のインストールを自動化し、NVIDIA DGXシステムのようなハードウェアがAIおよびハイパフォーマンスコンピューティングワークロードに適切に設定されるようにします。

仕組み

DeepOpsはAnsibleプレイブックを使用してインフラストラクチャの展開をオーケストレーションします。ユーザーのニーズに応じて、以下のことが可能になります:

  • Kubesprayを介して完全なKubernetesクラスターを展開し、コンテナ化されたアプリケーションを管理。
  • リソース管理およびバッチジョブスケジューリング用のSlurmクラスターをセットアップ。
  • 単一マシンに必須のGPUコンポーネント(NVIDIAドライバー、Docker、NVIDIAコンテナランタイム)をインストール。
  • サポートされているオペレーティングシステム上でNVIDIA DGXプラットフォームのソフトウェアスタックを展開。

対象ユーザー

オンプレミスまたはデータセンターでGPU対応クラスターを構築する必要があるシステム管理者およびインフラエンジニア向けです。特にNVIDIA DGXシステムまたはUbuntuやRHEL/Rocky Linuxを実行する一般的なGPUサーバーを使用している方々を対象としています。

特徴

  • マルチスケジューラ対応:KubernetesおよびSlurmの両方の自動化パスを提供。
  • エンドツーエンドの自動化:OSレベルのドライバーから高レベルのクラスターオーケストレーションまでをカバー。
  • モジュール設計:完全なクラスターのセットアップだけでなく、KubeFlowやNFSストレージなどの特定コンポーネントのみのセットアップも可能。
  • DGX最適化:NVIDIA DGXシステムに特化したベストプラクティスを統合。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト