iree-org/iree
A retargetable MLIR-based machine learning compiler and runtime toolkit.
何を解決するか
IREEは、さまざまなハードウェア上で機械学習モデルのデプロイを簡素化します。大規模なデータセンターからリソース制約のあるモバイルおよびエッジデバイスまで、効率的に動作するようにMLモデルをスケーラブルにすることの課題に対処します。
仕組み
IREEはMLIR（Multi-Level Intermediate Representation）に基づくエンドツーエンドのコンパイラおよびランタイムです。MLモデルを一貫した中間表現（IR）に低レベル化し、その後、さまざまなハードウェアターゲット上で最適化および実行できるようにします。
対象ユーザー
データセンター、モバイルデバイス、エッジデプロイメントを含む多様なハードウェア環境にMLモデルをデプロイする必要がある開発者やエンジニア向けに設計されています。
特徴
- MLIRベースのコンパイラおよびランタイムアーキテクチャ。
- プラットフォーム間デプロイ用の統一IR。
- データセンター規模からモバイルおよびエッジの制約までスケーリング可能。
- LF AI & Data Foundationの一部。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト