Dao-AILab/quack
A Quirky Assortment of CuTe Kernels
何を解決するか
QuACK は、一般的なディープラーニング演算向けの高性能GPUカーネルのコレクションを提供し、CuTe-DSL を使用して Python から直接 "光の速度" のパフォーマンスを実現できるようにします。
動作方法
このプロジェクトは、NVIDIA GPU向けのドメイン固有言語である CuTe-DSL を使って、さまざまな数学的演算（カーネル）を実装しています。H100、B200/B300、RTX 50 グラフィックスカードなど、最新のNVIDIAハードウェアをサポートしており、JAX 用のオプションバインディングも提供しています。
対象ユーザー
高スペックのNVIDIA GPUを扱う研究者やエンジニア向けに設計されており、正規化や行列乗算（GEMM）などの演算に最適化されたGPUカーネルが必要な場合に最適です。低レベルのCUDA C++を書く必要はありません。
主な特徴
- RMSNorm、Softmax、Cross Entropy、LayerNorm（前方および後方パス）向けの最適化カーネル。
- HopperおよびBlackwellアーキテクチャ向けの特別なGEMMおよびエピローグ実装。
- JAXとの統合（オプションバインディングで利用可能）。
- 最新のCUDAツールキット（12.9+）およびPython 3.12をサポート。
関連
- プロジェクト
NVIDIA/cutlassA collection of CUDA C++ and Python DSL abstractions for implementing high-performance matrix-matrix multiplication (GEMM) and the related linear algebra operations on NVIDIA GPUs.
- プロジェクト
NVIDIA/cudnn-frontendNVIDIA’s cuDNN Frontend is an open‑source, header‑only C++ API plus Python package that wraps the cuDNN Graph API. It provides easy‑to‑use graph construction, autotuning, and a catalog of open‑source high‑performance kernels (Flash‑Attention, fused GEMM + SwiGLU, block‑sparse attention, etc.) for Hopper/Blackwell GPUs. Install via pip or include the header; integrates with PyTorch and lets researchers and engineers get backend‑level speed without writing CUDA kernels from scratch.
- プロジェクト
MoonshotAI/FlashKDANVIDIA SM90+ GPU 向けに CUTLASS を基盤とする高パフォーマンス CUDA カーネル実装である Kimi Delta Attention (KDA)。`flash-linear-attention` ライブラリの最適化バックエンドとして機能する。
- プロジェクト
lattice/qudaNVIDIAハードウェア上で動作する、格子QCD計算のためのGPU加速ライブラリ。さまざまなフェルミオン作用に対応した最適化されたディラック演算子とソルバーを提供。
- プロジェクト
deepseek-ai/DeepGEMMNVIDIA GPU向けの高性能Tensor Coreカーネルライブラリ。最適化されたGEMM、MoE、MQAカーネルにより、LLMのトレーニングと推論を加速させます。