ROCm/AMDMIGraphX

AMD's graph optimization engine.

What it solves

AMD MIGraphX 旨在加速机器学习模型推理。它提供了一个图形推理引擎，可以优化在 AMD 硬件上执行 ML 模型的工作负载。

How it works

它作为一个图形推理引擎运行，利用 ROCm 软件栈（包括 MIOpen, rocBLAS, 和 HIP）来执行模型。它支持通过 Protobuf 读取 ONNX 文件，并提供 C/C++ 和 Python API 以便集成到应用程序中。

Who it’s for

此工具适用于需要在 AMD GPU 上优化并运行 ML 模型推理的开发人员和机器学习工程师。

Highlights

  • AMD Hardware Acceleration: Specifically optimized for the ROCm ecosystem.
  • Multi-Language Support: Offers both C/C++ and Python bindings.
  • ONNX Compatibility: Supports reading models in the ONNX format.
  • Flexible Deployment: Provides multiple build options including binaries, CMake, and Docker containers.