pytorch/kineto
A CPU+GPU Profiling library that provides access to timeline traces and hardware performance counters.
해결하는 문제
Kineto는 기계 학습 워크로드에 대한 성능 가시성과 진단을 제공하여, 개발자가 일반적인 ML 컴포넌트의 성능 저하 지점을 식별하고 해결할 수 있도록 돕습니다.
작동 방식
PyTorch Profiler에 통합된 라이브러리로 작동합니다. 핵심 구성 요소인 Libkineto는 저오버헤드 GPU 타임라인 추적을 위해 특별히 설계된 인프로세스 프로파일링 라이브러리입니다.
대상 사용자
모델의 실행 타임라인을 분석하여 성능을 최적화하고자 하는 PyTorch 사용 개발자 및 연구자입니다.
주요 특징
- Libkineto를 통한 저오버헤드 GPU 타임라인 추적.
- 외부 시스템 수준 프로파일링 도구와의 통합.
- 일반적인 성능 문제에 대한 실행 가능한 권장 사항.
- 인기 있는 시각화 플랫폼 및 분석 파이프라인과의 호환성.
관련
- 프로젝트
- 프로젝트
Denys88/rl_gamesPyTorch로 구현된 고성능 강화학습 라이브러리로, 로봇 공학, 멀티 에이전트 시스템 및 복잡한 시뮬레이션을 위한 학습 처리량을 최적화합니다.
- 프로젝트
pytorch/ao모델의 트레이닝과 추론을 가속화하고 메모리 사용량을 줄이기 위한 PyTorch 네이티브 최적화 라이브러리로, 양자화 및 희소성 도구를 제공합니다.
- 프로젝트
- 프로젝트
facebookresearch/HolisticTraceAnalysisHolistic Trace Analysis (HTA)는 분산 학습 작업에서 생성된 PyTorch 프로파일러(Kineto) 트레이스를 읽어 GPU가 계산, 통신, 메모리, 또는 대기 상태에 얼마나 시간을 쓰는지 데이터프레임과 시각화로 제공하는 Python 라이브러리입니다. 커널 수준 분해, 대기 시간 원인, 통신-계산 겹침, 자주 발생하는 커널 패턴, 실행 시간 통계, 증강된 메모리 대역폭/큐 길이 카운터, 트레이스 비교 도구를 제공합니다. `pip install HolisticTraceAnalysis` (Linux/macOS, Python ≥ 3.10)로 설치 가능하며, 노트북에서 `TraceAnalysis` 클래스를 사용해 각 분석용 pandas DataFrames를 얻을 수 있습니다. 문서, 예제, 실험적 CUPTI 카운터 API도 제공됩니다.