XuehaiPan/nvitop

解決的問題

nvitop 是一個互動式 NVIDIA GPU 進程檢視器與監控工具。它克服了 nvidia-smi 的限制，提供持續更新、色彩分明的介面，讓使用者能即時監控 GPU 資源使用狀況、追蹤進程並進行管理。

工作原理

它不透過解析 nvidia-smi 輸出來取得資訊，而是直接使用 NVML Python 綁定查詢裝置狀態。它利用 curses 套件實現高效顯示，並透過多執行緒非同步取得資訊，確保使用者介面的回應性。此工具跨平台，透過 psutil 套件取得主機進程資訊，支援 Linux 與 Windows。

適用對象

專為深度學習研究人員、系統管理員與開發者設計，適合需要在 NVIDIA 硬體上即時、詳細地檢視 GPU 使用率與進程管理的使用者。

主要特色

• 互動式監控模式：支援條狀圖、歷史圖表、進程排序與過濾。
• 進程管理：可直接從介面發送訊號（中斷、終止、強制終止）至進程。
• 進階檢視：包含 GPU 進程及其父進程的樹狀檢視與環境變數檢視器。
• 整合工具：附帶 nvisel，一個 CUDA 可見裝置選擇工具。
• 開發者 API：提供設備、進程與主機監控的底層 API，可用於建構自訂工具。
• 廣泛相容性：支援 Linux 與 Windows，並支援 MIG（多實例 GPU）裝置。