meta-pytorch/tritonbench
Tritonbench is a collection of PyTorch custom operators with example inputs to measure their performance.
What it solves
TritonBench 提供了一种标准化的方式来评估 Triton 及其与 PyTorch 集成的性能，确保算子在硬件上高效运行。
How it works
它是一组可以作为基准测试套件运行的 PyTorch 算子集合。它集成了来自各种来源的内核（kernels），包括 Flash-Attention、FBGEMM 和 Liger-Kernel，以衡量特定操作（例如 GEMM）的执行速度与性能。
Who it works for
需要对 GPU 内核与算子进行基准测试以评估性能的 Triton 与 PyTorch 开发人员与研究人员。
Highlights
- 通过集成的子模块支持广泛的算子。
- 可以作为独立的命令行工具使用，或安装为库以供自定义脚本使用。
- 集成了 CUTLASS 和 Flash-Attention 等多个后端项目。
相关
- 项目
- 项目
- 项目
- 项目
- Dispatch