ROCm/AMDMIGraphX

解決する課題

AMDMIGraphXは、AMDハードウェア上での機械学習モデルの実行を加速させるために設計されたグラフ推論エンジンです。学習済みモデルの実行（推論）プロセスを最適化し、より高いパフォーマンスと効率性を確保します。

仕組み

ROCmエコシステムを活用する推論エンジンとして機能します。ONNXファイルの読み込み（Protobuf経由）をサポートしており、統合のためにC/C++およびPython APIの両方を提供します。このエンジンは、GPU上で演算を実行するために、MIOpen、rocBLAS、HIPを含む複数の低レベルAMDライブラリを利用します。

対象者

このツールは、主にAMD GPU上での高性能な推論のために、MLモデルをデプロイおよび最適化する必要がある開発者や機械学習エンジニアを対象としています。

特徴

• グラフベースの加速: MLモデルの推論を高速化するために特別に設計されています。
• 幅広い統合: ROCmソフトウェアスタックと連携します。
• 柔軟なAPI: アプリケーション開発用にPythonバインディングとC/C++ APIの両方を提供します。
• 複数のビルドオプション: バイナリ、CMake、またはDockerコンテナ経由のインストールをサポートしています。