jax-ml/jax-triton

jax-triton contains integrations between JAX and OpenAI Triton

解決的問題

提供一種將 Triton 內核整合至 JAX 程式的方法，讓開發者能使用 Triton 的 Python 為基礎的語言撰寫高效率的自訂 GPU 內核，並在 JAX 的函數式生態系中無縫執行，包含在 jax.jit 編譯的函數內部。

該程式庫引入 triton_call 函數，作為橋樑。它允許將 JAX 陣列作為參數傳遞給 Triton 內核。同時支援透過 jax.new_ref 建立的 JAX Ref 物件進行就地修改，讓內核能在不配置新輸出陣列的情況下修改資料。

需要自訂 Triton 內核的效能，但希望在整體模型架構與高階編排中繼續使用 JAX 的開發者與研究人員。

Dispatch
OpenAI Triton 1.0 發佈
OpenAI 已發佈 Triton 1.0，這是一種開源且類似 Python 的語言與編譯器，讓研究人員無需深厚的 CUDA 專業知識即可編寫高效能的 GPU kernel。
專案
triton-lang/triton
一種用於撰寫高效自訂深度學習原語的語言與編譯器，其生產力高於 CUDA，彈性優於其他 DSL。
專案
ByteDance-Seed/Triton-distributed
Triton-distributed 是一個由 ByteDance-Seed 開源的編譯器，它擴展了 Triton 語言，增加了用於重疊 GPU 計算與通訊的原語。它能在 NVIDIA 和 AMD GPU 上實現高效能的分散式核心（如 GEMM、MoE、flash-decode、AllToAll），提供媲美手動調優函式庫的加速效果。可透過原始碼或預先建置的 pip wheel 安裝，使用 @triton_dist.jit 編寫核心，並呼叫提供的底層通訊 API。該專案持續更新（最新消息為 2026 年 9 月），並以 MIT 授權發布。
專案
triton-inference-server/client
用於 C++、Python 與 Java 的客戶端程式庫與範例，簡化與 Triton Inference Server 的模型推論與伺服器管理通訊。
專案
BobMcDear/attorch
基於 Triton 的 PyTorch nn 模組子集，為開發自定義深度學習算子提供易讀且易於修改的神經網路層集合。