Syllo/nvtop

它解决了什么问题

NVTOP 为 GPU 和 AI 加速器提供了一个实时的、交互式的任务监控工具，类似于 htop 对 CPU 的作用。它解决了在单一终端界面中，需要一种统一的、可视化的方式来监控多种硬件供应商的硬件利用率、温度和功耗的问题。

它如何工作

NVTOP 通过厂商特定的库和驱动程序（如 NVIDIA 的 NVML、AMD/Intel 的 libdrm，以及 Tenstorrent 或华为 Ascend 等加速器的专用库）查询硬件信息。然后使用 ncurses 库在终端中渲染一个可视化仪表板，显示 GPU/内存利用率、时钟频率和 PCIe 吞吐量等指标。

适合谁使用

专为开发者、数据科学家和系统管理员设计，用于在模型训练、推理或通用计算任务期间监控 GPU 和 AI 加速器的性能和健康状况。

主要特性

• 广泛的硬件支持：兼容 NVIDIA、AMD、Intel、Apple（M1/M2）、华为 Ascend、Tenstorrent、Rockchip、MetaX、Enflame 和 Iluvatar CoreX。
• 交互式界面：包含一个设置工具（F2），可自定义要绘制的指标。
• 详细的指标：跟踪 GPU 和内存利用率、温度、功耗、时钟频率以及 PCIe RX/TX 负载。
• 进程监控：显示当前正在使用 GPU 硬件的进程列表。