llvm/torch-mlir

The Torch-MLIR project aims to provide first class support from the PyTorch ecosystem to the MLIR ecosystem.

解决的问题

解决了硬件厂商希望支持 PyTorch 时面临的软件碎片化和高昂开发成本问题。无需每个厂商都自行构建自定义前端,将 PyTorch 模型转换为硬件可理解的格式,本项目提供了一个标准化的编译器桥接,连接 PyTorch 与 MLIR 生态系统。

工作原理

Torch-MLIR 作为中间层,将 PyTorch 模型降低到 Torch-MLIR Dialect。该过程支持两种主要入口点:ONNX 和 Fx。一旦进入 MLIR 生态系统,这些模型便可通过下游编译器更轻松地映射到特定目标硬件。

适用对象

主要面向需要将 PyTorch 支持集成到系统中,但又无需从零开始实现完整 PyTorch 前端的编译器开发者和硬件厂商。

主要亮点

  • 提供从 PyTorch 到 MLIR 的一流编译器支持。
  • 支持多种入口路径,包括 ONNX 和 Fx。
  • 减少硬件厂商重复的自定义下降低级需求。
  • 可与 IREE 和 Blade 等下游项目集成。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目