qualcomm/ai-hub-models

何を解決するか

Qualcommハードウェア向けに特別に最適化された最新の機械学習モデルの選別されたコレクションを提供し、デバイス内実行のためのモデルのコンパイル、量子化、プロファイリングの手間を軽減します。

動作方法

ユーザーはCLIまたはPython APIを通じて最適化されたモデルを参照・ダウンロードできます。Qualcomm AI Hub Workbenchと統合することで、特定のターゲットランタイム（TFLiteやONNXなど）および精度（INT8やFP16など）向けにモデルをコンパイルするパイプラインを自動化し、実際のクラウドホストデバイス上でパフォーマンスをプロファイリングし、PyTorchの出力と比較して精度を検証する推論を実行します。

対象ユーザー

Qualcomm搭載デバイス向けのAIアプリケーションを開発する開発者。Androidスマートフォン（Samsung Galaxy、Xiaomi）、Windowsラップトップ（Snapdragon X Elite）、自動車やIoTプラットフォームを含みます。

主な特徴

• 包括的なモデルズー：画像分類、画像編集、スーパーレゾリューション、セマンティックセグメンテーション向けの多様なモデルを含みます。
• ハードウェア固有の最適化：CPU、GPU、NPU（Hexagon DSPおよびHTPを含む）でのデプロイをサポートします。
• 自動化されたワークフロー：モデルエクスポートと量子化からデバイス内プロファイリング、推論までをスムーズに処理します。
• エンドツーエンドのデモ：前処理、推論、後処理を含むCLIベースのデモを提供し、即座にテストが可能です。