llvm/torch-mlir

何を解決するか

ハードウェアベンダーがPyTorchをサポートする場合のソフトウェアの断片化と高い開発コストの問題を解決します。各ベンダーが独自のカスタムフロントエンドを構築してPyTorchモデルを自社のハードウェアが理解する形式に変換するのではなく、このプロジェクトはMLIRエコシステムへの標準化されたコンパイラブリッジを提供します。

動作方法

Torch-MLIRは中間層として機能し、PyTorchモデルをTorch-MLIR Dialectに低レベル化します。このプロセスにはONNXとFxの2つの主要なエントリポイントがあります。MLIRエコシステム内に移行された後、これらのモデルは下流のコンパイラによって特定のターゲットハードウェアに容易にマッピングできます。

対象ユーザー

主に、PyTorchの完全なフロントエンドを自前で実装せずにシステムにPyTorchサポートを統合したいコンパイラ開発者やハードウェアベンダー向けに設計されています。

主な特徴

• PyTorchからMLIRへの一級のコンパイラサポートを提供。
• ONNXやFxを含む複数のエントリパスをサポート。
• ハードウェアベンダーによる重複したカスタム低レベル化の必要性を削減。
• IREEやBladeなどの下流プロジェクトと統合可能。