XuehaiPan/nvitop

해결하는 문제

nvitop는 상호작용 가능한 NVIDIA GPU 프로세스 뷰어 및 모니터링 도구입니다. nvidia-smi의 한계를 극복하여, 지속적으로 업데이트되고 색상이 구분된 인터페이스를 제공함으로써 사용자가 GPU 리소스 사용량을 실시간으로 모니터링하고, 프로세스를 추적하며 관리할 수 있도록 합니다.

작동 방식

nvidia-smi 출력을 파싱하는 대신, NVML Python 바인딩을 사용하여 장치 상태를 직접 쿼리합니다. curses 라이브러리를 사용하여 효율적인 표시를 하고, 비동기적으로 정보를 수집하기 위해 멀티스레딩을 활용하여 반응성 높은 사용자 인터페이스를 보장합니다. 이 도구는 psutil 라이브러리를 통해 호스트 프로세스 정보를 제공함으로써 Linux 및 Windows 모두에서 작동하는 크로스플랫폼 지원을 제공합니다.

대상 사용자

딥러닝 연구자, 시스템 관리자, 개발자 등 NVIDIA 하드웨어에서 GPU 활용도와 프로세스 관리를 세밀하고 실시간으로 파악해야 하는 사용자에게 적합합니다.

주요 기능

• 인터랙티브 모니터링 모드: 바 차트, 히스토리 그래프, 프로세스 정렬 및 필터링 기능을 제공합니다.
• 프로세스 관리: 인터페이스에서 직접 신호(중단, 종료, 강제 종료)를 보낼 수 있습니다.
• 고급 뷰: GPU 프로세스와 그 부모 프로세스를 트리 구조로 보여주는 뷰와 환경 변수 뷰어를 포함합니다.
• 통합 도구: CUDA 가시 디바이스 선택 도구인 nvisel을 함께 제공합니다.
• 개발자 API: 사용자 정의 도구를 구축하기 위한 장치, 프로세스, 호스트 모니터링용 저수준 API를 제공합니다.
• 광범위한 호환성: Linux 및 Windows에서 작동하며, MIG(Multi-Instance GPU) 장치도 지원합니다.