wookayin/gpustat

解決的問題

gpustat 提供了一個比 nvidia-smi 更簡潔且易讀的替代方案，用於監控 NVIDIA GPU 狀態。它簡化了 GPU 指標（如溫度、使用率與記憶體佔用）的呈現方式，讓使用者能更輕鬆地追蹤哪些程序與使用者正在佔用 GPU 資源。

運作原理

它作為 NVIDIA 官方 Python 綁定庫 nvidia-ml-py (NVML) 的封裝工具。它可以作為命令列工具執行，也可以作為 Python 函式庫匯入，以程式化方式查詢 GPU 統計數據。

適用對象

使用 NVIDIA GPU 的開發者與研究人員，需要一種快速且清晰的方式來即時監控硬體使用率與程序擁有者。

特色亮點

• 全面指標：顯示 GPU 索引、名稱、溫度、使用率與記憶體佔用。
• 程序追蹤：可顯示程序擁有者的使用者名稱、程序名稱與 PID。
• 靈活輸出：支援彩色終端輸出、用於自動化的 JSON 格式，以及用於定期更新的監控模式。
• Python API：允許整合至其他 Python 專案中，透過程式碼查詢 GPU 統計數據。