XuehaiPan/nvitop

解决的问题

nvitop 是一个交互式 NVIDIA GPU 进程查看器和监控工具。它克服了 nvidia-smi 的局限性，提供一个持续更新、带颜色的界面，使用户能够实时监控 GPU 资源使用情况、追踪进程并进行管理。

工作原理

它不通过解析 nvidia-smi 输出来获取信息，而是直接使用 NVML Python 绑定查询设备状态。它利用 curses 库实现高效显示，并通过多线程异步获取信息，确保用户界面的响应性。该工具跨平台，通过 psutil 库获取主机进程信息，支持 Linux 和 Windows。

适用人群

专为深度学习研究人员、系统管理员和开发者设计，适合需要在 NVIDIA 硬件上实时、详细地查看 GPU 利用率和进程管理的用户。

主要亮点

• 交互式监控模式：支持条形图、历史图表、进程排序和过滤。
• 进程管理：可直接从界面发送信号（中断、终止、强制终止）到进程。
• 高级视图：包含 GPU 进程及其父进程的树形视图和环境变量查看器。
• 集成工具：附带 nvisel，一个 CUDA 可见设备选择工具。
• 开发者 API：提供设备、进程和主机监控的底层 API，可用于构建自定义工具。
• 广泛兼容性：支持 Linux 和 Windows，并且兼容 MIG（多实例 GPU）设备。