llvm/torch-mlir

The Torch-MLIR project aims to provide first class support from the PyTorch ecosystem to the MLIR ecosystem.

解決的問題

解決了硬體廠商希望支援 PyTorch 時所面臨的軟體碎片化與高昂開發成本問題。無需每個廠商都自行建構自訂前端,將 PyTorch 模型轉換為硬體可理解的格式,本專案提供一個標準化的編譯器橋接,連接 PyTorch 與 MLIR 生態系統。

工作原理

Torch-MLIR 作為中間層,將 PyTorch 模型降低至 Torch-MLIR Dialect。此過程支援兩種主要入口點:ONNX 與 Fx。一旦進入 MLIR 生態系統,這些模型便能透過下游編譯器更輕鬆地映射至特定目標硬體。

適用對象

主要針對需要將 PyTorch 支援整合至系統中,但又無需從零開始實作完整 PyTorch 前端的編譯器開發者與硬體廠商。

主要亮點

  • 提供從 PyTorch 到 MLIR 的一等編譯器支援。
  • 支援多種入口路徑,包括 ONNX 與 Fx。
  • 減少硬體廠商重複的自訂下降低階需求。
  • 可與 IREE 與 Blade 等下游專案整合。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案