Xilinx/mlir-aie

A close-to-metal Python API for programming AMD Ryzen™ AI NPUs (AI Engines), built on an open-source MLIR-based compiler toolchain.

解决的问题

提供一种使用名为 IRON 的高级 Python API 编程 AMD Ryzen‡ AI NPUs（神经处理单元）的方法。这使开发者可以绕过复杂的框架，直接控制 AI 引擎阵列上的瓦片布局、数据移动和向量化计算。

工作原理

IRON 使用基于 MLIR（多级中间表示）和 LLVM 的开源编译器工具链。当开发者在 Python 中使用 @iron.jit 装饰器时，工具链会通过 Peano 编译器将设计编译为 xclbin 文件和指令流，然后在 NPU 硬件上运行。

适用人群

专为需要对 NPU 进行低级别、"贴近硬件" 控制的研究人员和性能工程师设计，适用于从机器学习到数字信号处理等各种任务。

主要亮点

  • Python 到 NPU 的工作流：编写可被 JIT 编译并在 AI 引擎阵列上直接执行的 Python 代码。
  • 低级别控制：直接管理向量化计算、数据移动和瓦片布局。
  • 基于 MLIR 的工具链：利用多级抽象工具链，针对 Ryzen AI 和 Versal 等支持 AI 引擎的设备进行优化。
  • 互补性工具：与主流推理平台协同工作，而非取代它们。

相关

  • 项目
    NVIDIA/cuda-tile

    CUDA Tile IR 是 NVIDIA 开发的基于 MLIR 的编译器基础设施，引入了专用于分块导向 CUDA 内核的方言。它提供 C++ 和 Python API、二进制字节码格式，以及将 MLIR 转换为字节码或 cubin 的工具，支持针对 NVIDIA Tensor-Core 单元的高性能内核。该项目基于 LLVM/MLIR，与 CUDA Toolkit 13.1 对齐，并包含一致性测试套件。这是一个真正的 AI 相关编译器项目，而非教程或列表。

  • 项目
    cornell-zhang/allo

    一种基于 MLIR 的、嵌入 Python 的语言和编译器，用于模块化设计和编程高性能机器学习加速器。

  • 项目
    NVIDIA/cutile-python

    一种用于 NVIDIA GPU 的 Python 编程语言，允许开发者使用 Tile IR 编写和启动并行内核，而无需编写低级 CUDA C++。

  • 项目
    buddy-compiler/buddy-mlir

    Buddy MLIR 是一个基于 MLIR 的编译器框架，用于协同设计 AI 模型和定制硬件。它允许你将 DeepSeek、Whisper 和 Qwen3‑VL 等模型编译为可移植的 `.rax` 二进制文件，并通过一个轻量级 CLI 运行时在 CPU、RISC‑V 或 GPU 上运行它们。

  • 项目
    tile-ai/tilelang

    基于 TVM 构建的简洁领域特定语言和编译器，用于开发 GEMM 和 FlashAttention 等高性能 GPU/CPU/NPU 内核。