iree-org/iree
A retargetable MLIR-based machine learning compiler and runtime toolkit.
解决的问题
IREE 简化了在各种硬件上部署机器学习模型的过程。它解决了将机器学习模型高效地扩展到从大型数据中心到资源受限的移动和边缘设备的挑战。
工作原理
IREE 是基于 MLIR（多级中间表示）的端到端编译器和运行时。它通过将机器学习模型降低为统一的中间表示（IR），从而可以在不同的硬件目标上进行优化和执行。
适用人群
专为需要将机器学习模型部署到各种硬件环境（包括数据中心、移动设备和边缘部署）的开发人员和工程师设计。
主要亮点
- 基于 MLIR 的编译器和运行时架构。
- 用于跨平台部署的统一 IR。
- 支持从数据中心规模到移动和边缘约束的扩展。
- LF AI & Data Foundation 的一部分。
相关
- 项目
- 项目
- 项目
- 项目
- 项目