XuehaiPan/nvitop

何を解決するか

nvitop は、インタラクティブなNVIDIA GPUプロセスビューアーおよびモニターツールです。nvidia-smi の制限を克服し、継続的に更新され、色分けされたインターフェースを提供することで、ユーザーがGPUリソース使用状況をリアルタイムで監視し、プロセスを追跡・管理できるようにします。

動作方法

nvidia-smi の出力を解析するのではなく、NVML Pythonバインディングを使用してデバイスの状態を直接照会します。curses ライブラリを用いて効率的な表示を行い、非同期に情報を取得するためのマルチスレッド処理を採用することで、応答性の高いユーザーインターフェースを実現しています。このツールはクロスプラットフォーム対応で、psutil ライブラリを介してホストプロセス情報を取得することで、LinuxおよびWindowsの両方をサポートしています。

対象ユーザー

深層学習研究者、システム管理者、開発者向けに設計されており、NVIDIAハードウェア上のGPU利用状況とプロセス管理を詳細かつリアルタイムで把握したい方々に最適です。

主な特徴

• インタラクティブモニターモード：バー図、履歴グラフ、プロセスの並べ替え・フィルタリングを備えています。
• プロセス管理：インターフェースから直接シグナル（中断、終了、強制終了）を送信できます。
• 高度なビュー：GPUプロセスとその親プロセスのツリー表示、環境変数ビューアーを搭載しています。
• 統合ツール：nvisel というCUDA可視デバイス選択ツールを同梱しています。
• 開発者API：デバイス、プロセス、ホストの監視用の低レベルAPIを提供し、カスタムツールの構築が可能です。
• 広範な互換性：LinuxおよびWindowsで動作し、MIG（マルチインスタンスGPU）デバイスもサポートしています。