ROCm/AMDMIGraphX

AMD's graph optimization engine.

What it solves

AMD MIGraphX 旨在加速機器學習模型的推理。它提供了一個圖形推理引擎，可優化在 AMD 硬體上執行 ML 模型的工作負載。

How it works

它作為一個圖形推理引擎運作，利用 ROCm 軟體堆疊（包括 MIOpen, rocBLAS, 和 HIP）來執行模型。它支援透過 Protobuf 讀取 ONNX 檔案，並提供 C/C++ 和 Python API 以便整合到應用程式中。

Who it’s for

此工具適用於需要在 AMD GPU 上優化並執行 ML 模型推理的開發人員和機器學習工程師。

Highlights

  • AMD Hardware Acceleration: Specifically optimized for the ROCm ecosystem.
  • Multi-Language Support: Offers both C/C++ and Python bindings.
  • ONNX Compatibility: Supports reading models in the ONNX format.
  • Flexible Deployment: Provides multiple build options including binaries, CMake, and Docker containers.