qualcomm/ai-hub-models

Qualcomm® AI Hub Models is our collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.

Qualcomm® AI Hub Models – クイック概要

概要 – 開発者向けに、Qualcommハードウェア（Snapdragon CPU、GPU、NPU、Hexagon DSPなど）向けに既に最適化された、すぐに実行可能な機械学習モデル（ビジョン、言語、生成AIなど）のカタログを提供するPythonパッケージです。このパッケージには、カタログの閲覧、適切なモデルファイルのダウンロード、エンドツーエンドのデモ実行を行うためのコマンドラインツール (qai‑hub‑models) とPython APIが含まれています。

重要性 – スマートフォン、タブレット、ノートPC、IoTデバイス上でディープラーニングモデルをデプロイするには、通常、ランタイム（TensorFlow Lite、ONNX、Qualcomm AI Engine）への変換、量子化、特定のチップセット向けのコンパイル、パフォーマンスのテストなど、多くの作業が必要です。Qualcomm AI Hub Modelsは、これらの作業をすべてパッケージ化しているため、低レベルの最適化ではなく、アプリケーションの開発に集中できます。

主な機能 (READMEより)

機能	内容
膨大なモデルカタログ	画像生成、テキスト生成、古典的なコンピュータビジョンタスクをカバーする100以上のモデル。各エントリには、詳細とダウンロードリンクが記載されたモデル固有のREADMEへのリンクがあります。
デバイス固有の最適化	モデルは事前に量子化（例：w8a8）され、LiteRT、ONNX、Qualcomm AI Engine Directなどのランタイム向けにコンパイルされており、実際のデバイス（Galaxy Sシリーズ、Xiaomi、Snapdragon X Elite、車載プラットフォームなど）でテスト済みです。
CLI & Python API	`qai‑hub‑models` を使用すると、ターミナルやPythonコード内から、閲覧 (`models`)、情報表示 (`info`)、数値確認 (`numerics`)、パフォーマンス確認 (`perf`)、アセット取得、依存関係のインストール、エクスポート、評価、デモ実行が可能です。
ワンクリックエクスポート＆評価	Qualcomm AI Hub Workbenchアカウントを使用すると、クラウドホスト型のQualcommデバイス上で量子化、コンパイル、プロファイリング、推論実行を行い、デバイス上の結果をPyTorchの参照出力と比較できます。
サンプルアプリ	ネイティブのAndroid/Linux/Windowsサンプルアプリは、付属の AI Hub Apps リポジトリにあり、Pythonデモアプリは各モデルのプリプロセス/ポストプロセスをラップしています。
サポートされるランタイムとハードウェア	• Qualcomm AI Engine Direct (Android, Linux, Windows) • LiteRT (TensorFlow Lite) • ONNX (QNN execution provider) • CPU, GPU, NPU (Hexagon DSP, HTP) でFP32/FP16/INT8/INT16精度をサポート。
インストールオプション	軽量なCLIのみ (`qai‑hub‑models‑cli`) またはエクスポート/評価機能を含むフルパッケージ (`qai_hub_models`) を選択可能。

標準的なワークフロー

アクセス設定 – Qualcomm IDを作成し、AI Hub Workbenchにログインし、qai‑hub configure でAPIトークンを保存します。
モデルの選択 – カタログ (qai‑hub‑models models) を閲覧し、サポートされているランタイムと精度についてモデルのREADMEを読みます。
依存関係のインストール – qai‑hub‑models install <model> で、そのモデルのデモに必要な追加のPythonパッケージをインストールします。
エクスポート – qai‑hub‑models export <model> --target-runtime tflite --precision w8a8 --device "Samsung Galaxy S25" で、モデルを量子化、コンパイルし、クラウドホスト型デバイスにアップロードします。
評価 – qai‑hub‑models evaluate <model> --hub-model-id <ID> で、デバイス上で推論を実行し、PyTorchのベースラインと比較して精度/パフォーマンスを報告します。
デモの実行 – ローカルでPyTorchを使用 (demo <model>) するか、デバイス上で (demo <model> --eval-mode on-device) 実行します。

対象ユーザー

モバイル/IoT開発者：Snapdragonベースのスマートフォン、タブレット、ノートPC、組み込みボードで高性能なAIを必要とする方。
研究者：独自のコンパイルパイプラインを作成せずに、実際のハードウェアでモデルをテストしたい方。
製品チーム：オフラインのデバイス上で実行する必要があるAI強化アプリ（カメラ、AR、音声、翻訳）を構築している方。

制限事項と注意点

フルパッケージには Qualcomm AI Hub Workbenchアカウント が必要であり、エクスポート/評価にはクラウドホスト型デバイスへのインターネットアクセスが必要です。
Snapdragon X Elite/X2 EliteではWindows ARM64 Pythonはサポートされていません。AMD‑64 Pythonを使用してください。
一部のデモは PyTorch専用 であり、デバイス上では実行できません。サポートされているデモモードについては各モデルのREADMEを確認してください。

結論

Qualcomm AI Hub Modelsは、最先端のMLモデルをQualcommハードウェア向けにデプロイ可能な資産へと変換する、ベンダーサポート付きの実用的なツールボックスです。便利なCLI、パフォーマンスデータ、エンドツーエンドのデモを提供します。

qualcomm/ai-hub-models