pytorch/kineto
A CPU+GPU Profiling library that provides access to timeline traces and hardware performance counters.
何を解決するか
Kinetoは、機械学習ワークロードのパフォーマンス可視化と診断を提供し、開発者が一般的なMLコンポーネントにおけるボトルネックを特定・解決するのを支援します。
動作方法
PyTorch Profilerに統合されたライブラリとして機能します。そのコアコンポーネントであるLibkinetoは、低オーバーヘッドなGPUタイムライントレーシングに特化したインプロセスプロファイリングライブラリです。
対象ユーザー
モデルの実行タイムラインを分析してパフォーマンスを最適化したいPyTorchを使用する開発者や研究者です。
主な特徴
- Libkinetoによる低オーバーヘッドなGPUタイムライントレーシング。
- システムレベルの外部プロファイリングツールとの統合。
- 一般的なパフォーマンス問題に対する実行可能な推奨事項。
- 人気の可視化プラットフォームや分析パイプラインとの互換性。
関連
- プロジェクト
- プロジェクト
Denys88/rl_gamesPyTorchで実装された高性能な強化学習ライブラリで、ロボティクス、マルチエージェントシステム、複雑なシミュレーションの学習スループットを最適化します。
- プロジェクト
pytorch/aoモデルのトレーニングと推論を高速化し、メモリ使用量を削減するための、PyTorchネイティブな最適化ライブラリ。量子化とスパース性のツールを提供します。
- プロジェクト
meta-pytorch/tntPyTorch ユーザー向けにモデルのトレーニングプロセスを効率化するための、トレーニングツールとユーティリティのライブラリです。
- プロジェクト
facebookresearch/HolisticTraceAnalysisHolistic Trace Analysis (HTA) は、分散学習ジョブから生成された PyTorch プロファイラ（Kineto）トレースを読み込み、GPU が計算、通信、メモリ、アイドルのどの部分に時間を費やしているかをデータフレームと可視化で示す Python ライブラリです。カーネルレベルの分解、アイドル時間の原因、通信-計算の重なり、頻出カーネルパターン、起動時間統計、拡張されたメモリ帯域幅/キュー長カウンター、トレース比較ツールを提供します。`pip install HolisticTraceAnalysis`（Linux/macOS、Python ≥ 3.10）でインストールでき、ノートブックで `TraceAnalysis` クラスを使用して各分析用の pandas DataFrames を取得できます。ドキュメント、例、および実験的な CUPTI カウンター API も提供されています。