amd/RyzenAI-SW

何を解決するか

AMD Ryzen AI搭載PC上でAI推論を最適化およびデプロイするためのツールとランタイムライブラリを提供し、AIアプリケーションにおけるハードウェアアクセラレーションを活用できるようにします。

仕組み

このソフトウェアはAIモデルとRyzen AIハードウェアの間のブリッジとして機能し、さまざまなモデルの効率的な実行を可能にするランタイムライブラリとツールのセットを提供します。ONNX RuntimeおよびWindows MLとの統合をサポートしており、CNN、Transformer、LLMなど、さまざまなモデルタイプ向けの特別な例も提供しています。

対象ユーザー

AMD Ryzen AI搭載ハードウェア向けにAIアプリケーションを開発し、パフォーマンスと効率を最大化したい開発者

主な特徴

• ONNX Runtime GenAI APIを用いた大規模言語モデル（LLM）のサポート、RAGおよびビジョン言語モデル（VLM）を含む。
• 画像分類、物体検出（YOLOv8）、スーパーレゾリューションに対応。
• Windows MLとの統合によりTransformerおよびLLMの実行が可能。
• OpenAI WhisperおよびNVIDIA Parakeet TDTを用いた自動音声認識（ASR）のサポート。
• AMD Quarkを用いたモデルの量子化ツール。