gpu-mode/reference-kernels

Official Problem Sets / Reference Kernels for the GPU MODE Leaderboard!

何を解決するか

このリポジトリは、GPUカーネルコンペティション用の参照実装のセットを提供します。KernelBotが主催するコンペティションに参加する者が書いたカスタムGPUカーネルの性能と正しさを評価するための基準（グランド・トリゥス）として機能します。

動作方法

このプロジェクトは、問題セット（線形代数やNVIDIA Blackwell、AMDなどの特定のハードウェアコンペティションなど）にカーネルを整理します。各問題には、PyTorchによる参照実装（reference.py）、問題仕様（task.yml）、および入出力のスキーマ（task.py）が含まれます。これらのファイルにより、システムはテストケースを生成し、ユーザーが提出したカーネルが参照実装と同じ結果を出力しているかを検証できます。

対象ユーザー

KernelBotコンペティションに参加するGPUプログラマーおよび研究者、またはスタンフォードやプリンストン大学などの並列プログラミングコースの学生。

特徴

  • 高リスクなコンペティション用の参照カーネル（AMDおよびNVIDIAハードウェアチャレンジを含む）。
  • 大学の並列プログラミング課題への対応。
  • 自動テストと評価用の標準化された問題仕様。

関連

  • プロジェクト
    KernelTuner/kernel_tuner

    パフォーマンスとエネルギー効率を向上させるために、複数のGPUプログラミング言語にわたってパラメータをベンチマークし、最適化するGPUカーネル用のオートチューニングツール。

  • プロジェクト
    ekondis/mixbench

    さまざまな精度レベルでの混合演算強度カーネルをテストすることで、GPUおよびCPUのパフォーマンス限界を評価するためのベンチマークツールです。

  • プロジェクト
    cfregly/ai-performance-engineering

    A comprehensive collection of code and resources for optimizing AI systems, focusing on GPU tuning, distributed training, and high-throughput inference scaling.

  • プロジェクト
    meta-pytorch/tritonbench

    Triton と PyTorch の統合パフォーマンスを評価するための PyTorch オペレーターのコレクションです。

  • プロジェクト
    pytorch/FBGEMM

    A repository of highly-optimized kernels for deep learning, providing low-precision matrix multiplication and convolution libraries for server-side inference and generative AI.