iree-org/iree
A retargetable MLIR-based machine learning compiler and runtime toolkit.
解決的問題
IREE 簡化了在各種硬體上部署機器學習模型的過程。它解決了將機器學習模型高效擴展至從大型資料中心到資源受限的行動與邊緣裝置的挑戰。
工作原理
IREE 是基於 MLIR（多層次中間表示）的端對端編譯器與執行時。它透過將機器學習模型降低為統一的中間表示（IR），進而可在不同硬體目標上進行最佳化與執行。
適用對象
專為需要將機器學習模型部署至各種硬體環境（包括資料中心、行動裝置與邊緣部署）的開發人員與工程師設計。
主要亮點
- 基於 MLIR 的編譯器與執行時架構。
- 用於跨平台部署的統一 IR。
- 支援從資料中心規模到行動與邊緣限制的擴展。
- LF AI & Data Foundation 的一部分。
相關
- 專案
- 專案
- 專案
- 專案
- 專案