Syllo/nvtop

何を解決するか

NVTOP は、CPU 用の htop と同様に、GPU および AI エンジン用のリアルタイムでインタラクティブなタスクモニターを提供します。さまざまなハードウェアベンダーの幅広いデバイスにおいて、1 つのターミナルインターフェースでハードウェアの利用状況、温度、電力消費を統合的かつ視覚的に監視する手段が不足していた問題を解決します。

仕組み

NVTOP は、ベンダー固有のライブラリやドライバー（NVIDIA 用の NVML、AMD/Intel 用の libdrm、Tenstorrent や Huawei Ascend などのアクセラレータ用の各種専用ライブラリなど）を介してハードウェア情報を取得します。その後、ncurses ライブラリを使用してターミナル上で視覚的なダッシュボードをレンダリングし、GPU/メモリ利用状況、クロック、PCIe 透過量などのメトリクスを表示します。

対象ユーザー

モデル学習、推論、または一般的な計算タスク中に GPU や AI エンジンのパフォーマンスと健全性を監視する必要がある開発者、データサイエンティスト、システム管理者向けに設計されています。

特徴

• 広範なハードウェア対応: NVIDIA、AMD、Intel、Apple（M1/M2）、Huawei Ascend、Tenstorrent、Rockchip、MetaX、Enflame、Iluvatar CoreX に対応。
• インタラクティブインターフェース: F2 キーで設定ユーティリティを使用し、表示するメトリクスをカスタマイズ可能。
• 詳細なメトリクス: GPU およびメモリ利用状況、温度、電力、クロック、PCIe RX/TX 負荷を追跡。
• プロセス監視: GPU ハードウェアを利用している現在のプロセスの一覧を表示。