jax-ml/jax-triton

jax-triton contains integrations between JAX and OpenAI Triton

何を解決するか

TritonカーネルをJAXプログラムに統合する方法を提供し、開発者がTritonのPythonベースの言語を使って高性能なカスタムGPUカーネルを記述し、JAXの関数型エコシステム内（jax.jitコンパイル関数内を含む）でシームレスに実行できるようにします。

動作方法

このライブラリは triton_call 関数を導入し、ブリッジとして機能します。JAX配列をTritonカーネルの引数として渡すことが可能になります。また、jax.new_ref で作成されたJAX Ref オブジェクトのインプレース変更もサポートしており、新しい出力配列を割り当てることなくデータを変更できます。

対象ユーザー

カスタムTritonカーネルのパフォーマンスを必要とするが、全体のモデルアーキテクチャや高レベルのオーケストレーションにはJAXを使い続けたい開発者や研究者。

特徴

  • JAX配列からTritonカーネルを呼び出すサポート。
  • 効率的な実行のための jax.jit との互換性。
  • インプレース変更のためのJAX Ref を通じた入出力パラメータのサポート。
  • Gluon方言との統合。

関連

  • Dispatch
    OpenAI Triton 1.0 リリース

    OpenAIは、研究者が深いCUDAの専門知識なしに、非常に効率的なGPUカーネルを記述できるようにする、オープンソースのPythonライクな言語およびコンパイラであるTriton 1.0をリリースしました。

  • プロジェクト
    triton-lang/triton

    CUDAよりも生産性が高く、他のDSLよりも柔軟性がある、高度に効率的なカスタムディープラーニングプリミティブを書くための言語とコンパイラ。

  • プロジェクト
    ByteDance-Seed/Triton-distributed

    Triton-distributedは、ByteDance-Seedがオープンソース化したコンパイラであり、Triton言語を拡張してGPUの計算と通信をオーバーラップさせるためのプリミティブを提供します。NVIDIAおよびAMD GPU上で高性能な分散カーネル（GEMM、MoE、flash-decode、AllToAllなど）を実現し、手動でチューニングされたライブラリに匹敵する高速化を提供します。ソースまたはビルド済みのpip wheelからインストールし、@triton_dist.jitを使用してカーネルを記述し、提供されている低レベル通信APIを利用できます。プロジェクトは活発に更新されており（最新ニュースは2026年9月）、MITライセンスで公開されています。

  • プロジェクト
    triton-inference-server/client

    C++、Python、Java 用のクライアントライブラリと例題。Triton Inference Server とのモデル推論およびサーバー管理の通信を簡素化します。

  • プロジェクト
    BobMcDear/attorch

    カスタムディープラーニング演算を開発するために、読みやすく、カスタマイズが容易なニューラルネットワーク層のコレクションを提供する、PyTorchのnnモジュールのTritonベースのサブセット。