llvm/torch-mlir
The Torch-MLIR project aims to provide first class support from the PyTorch ecosystem to the MLIR ecosystem.
解決的問題
解決了硬體廠商希望支援 PyTorch 時所面臨的軟體碎片化與高昂開發成本問題。無需每個廠商都自行建構自訂前端,將 PyTorch 模型轉換為硬體可理解的格式,本專案提供一個標準化的編譯器橋接,連接 PyTorch 與 MLIR 生態系統。
工作原理
Torch-MLIR 作為中間層,將 PyTorch 模型降低至 Torch-MLIR Dialect。此過程支援兩種主要入口點:ONNX 與 Fx。一旦進入 MLIR 生態系統,這些模型便能透過下游編譯器更輕鬆地映射至特定目標硬體。
適用對象
主要針對需要將 PyTorch 支援整合至系統中,但又無需從零開始實作完整 PyTorch 前端的編譯器開發者與硬體廠商。
主要亮點
- 提供從 PyTorch 到 MLIR 的一等編譯器支援。
- 支援多種入口路徑,包括 ONNX 與 Fx。
- 減少硬體廠商重複的自訂下降低階需求。
- 可與 IREE 與 Blade 等下游專案整合。
相關
- 專案
- 專案
- 專案
- 專案
- 專案