gpu-mode/reference-kernels
Official Problem Sets / Reference Kernels for the GPU MODE Leaderboard!
解決的問題
此倉儲提供一組 GPU 內核競賽的參考實作。作為 KernelBot 主辦競賽中參賽者撰寫的自訂 GPU 內核性能與正確性評估的基準(真實值)。
運作方式
此專案將內核依問題集組織(例如線性代數或特定硬體競賽,如 NVIDIA Blackwell 或 AMD)。每個問題包含一個 PyTorch 參考實作(reference.py)、一個問題規格(task.yml),以及輸入與輸出的模式(task.py)。這些檔案讓系統能產生測試案例,並驗證使用者提交的內核是否產生與參考實作相同的結果。
適用對象
參與 KernelBot 競賽的 GPU 程式設計師與研究人員,或參加並行程式設計課程的學生(例如史丹福大學與普林斯頓大學的學生)。
特色亮點
- 高風險競賽的參考內核(包含 AMD 與 NVIDIA 硬體挑戰)。
- 支援大學並行程式設計作業。
- 標準化問題規格,用於自動化測試與評估。
相關
- 專案
KernelTuner/kernel_tunerAn auto-tuning tool for GPU kernels that benchmarks and optimizes parameters across multiple GPU programming languages to improve performance and and energy efficiency.
- 專案
- 專案
cfregly/ai-performance-engineeringA comprehensive collection of code and resources for optimizing AI systems, focusing on GPU tuning, distributed training, and high-throughput inference scaling.
- 專案
- 專案
pytorch/FBGEMMA repository of highly-optimized kernels for deep learning, providing low-precision matrix multiplication and convolution libraries for server-side inference and generative AI.