pytorch/kineto

A CPU+GPU Profiling library that provides access to timeline traces and hardware performance counters.

解决的问题

Kineto 为机器学习工作负载提供性能可观测性和诊断功能，帮助开发者识别并解决常见 ML 组件中的性能瓶颈。

工作原理

作为集成到 PyTorch Profiler 中的库运行。其核心组件 Libkineto 是一个专为低开销 GPU 时间线追踪而设计的进程内分析库。

适用人群

需要分析模型执行时间线以优化性能的 PyTorch 开发者和研究人员。

主要亮点

  • 通过 Libkineto 实现低开销 GPU 时间线追踪。
  • 与外部系统级分析工具集成。
  • 针对常见性能问题提供可操作的建议。
  • 兼容主流可视化平台和分析流水线。

相关

  • 项目
    meta-pytorch/tritonbench

    一组用于评估 Triton 与 PyTorch 集成的性能的 PyTorch 算子集合。

  • 项目
    Denys88/rl_games

    一个基于 PyTorch 实现的高性能强化学习库，旨在优化机器人、多智能体系统及复杂模拟的训练吞吐量。

  • 项目
    pytorch/ao

    一个原生 PyTorch 的模型优化库，提供量化和稀疏性工具，以加速训练和推理并减少内存使用。

  • 项目
    meta-pytorch/tnt

    一个为 PyTorch 用户提供训练工具和实用程序的库，旨在简化模型训练流程。

  • 项目
    facebookresearch/HolisticTraceAnalysis

    Holistic Trace Analysis (HTA) 是一个 Python 库，可读取分布式训练任务生成的 PyTorch Profiler（Kineto）追踪文件，并生成数据框和可视化图表，展示 GPU 在计算、通信、内存或空闲状态上花费的时间。它提供内核级分解、空闲时间原因分析、通信-计算重叠、频繁内核模式、启动时间统计、增强的内存带宽/队列长度计数器，以及追踪对比工具。通过 `pip install HolisticTraceAnalysis`（Linux/macOS，Python ≥ 3.10）安装，并在笔记本中使用 `TraceAnalysis` 类获取各分析结果的 pandas DataFrames。提供文档、示例和实验性 CUPTI 计数器 API。