meta-pytorch/tritonbench
Tritonbench is a collection of PyTorch custom operators with example inputs to measure their performance.
What it solves
TritonBench 提供了一種標準化的方式來評估 Triton 及其與 PyTorch 整合的效能，確保算子在硬體上高效運行。
How it works
它是一組可以作為基準測試套件運行的 PyTorch 算子集合。它整合了來自各種來源的內核（kernels），包括 Flash-Attention、FBGEMM 和 Liger-Kernel，以衡量特定操作（例如 GEMM）的執行速度與效能。
Who it’s for
需要對 GPU 內核與算子進行基準測試以評估效能的 Triton 與 PyTorch 開發者與研究人員。
Highlights
- 透過整合的子模組支援廣泛的算子。
- 可作為獨立的命令列工具使用，或安裝為函式庫以供自定義腳本使用。
- 與 CUTLASS 和 Flash-Attention 等多個後端專案整合。
相關
- 專案
- 專案
- 專案
- 專案
- Dispatch