qualcomm/ai-hub-apps

The Qualcomm® AI Hub apps are a collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.

Qualcomm® AI Hub Apps – その概要

目的 – Qualcomm ハードウェア(Snapdragon CPU、GPU、Hexagon NPU)上で機械学習モデルを実行する方法を示す、厳選されたサンプルアプリケーションとステップバイステップのチュートリアルを提供します。アプリは、一般的なビジョン、オーディオ、言語タスクのエンドツーエンドの推論パイプラインを示し、Qualcomm がサポートするランタイム上に構築されています。

主な機能

  • 複数のランタイム – TensorFlow Lite、ONNX Runtime、および Qualcomm 独自の Genie SDK(生成 AI 向け)。
  • クロスプラットフォーム – Android(Java/Kotlin)、Windows(C++/Python/Go)、Ubuntu(Python)向けの既製コード。
  • ハードウェアアクセラレーション – Snapdragon チップセット上の CPU、GPU、Hexagon NPU(HTP)の使用手順と、必要なデータ型(FP16、INT8/INT16)の詳細。
  • タスクカタログ – 画像分類、物体検出、セマンティックセグメンテーション、超解像、音声認識(Whisper)、Stable Diffusion、ハンドジェスチャ認識、ポーズ推定、音声分類、顔認識、3D 検出、LiDAR セグメンテーション、GenieX による LLM チャット。
  • チュートリアル – Genie SDK を使用した大規模言語モデルのオンデバイスでのエクスポートと実行のガイド。

典型的なワークフロー

  1. README の表からタスクとプラットフォームを選択します。
  2. アプリ固有の README に従ってビルドし(例: Android は Gradle、Windows は CMake、Ubuntu は pip)、必要なランタイムライブラリをインストールします。
  3. Qualcomm AI Hub モデルカタログから互換性のあるモデルを読み込みます。
  4. アプリを実行します。コードはデバイスに基づいて最適な利用可能なコンピューティングユニット(CPU/GPU/NPU)を自動的に選択します。

対象読者 – Snapdragon デバイス上でのオンデバイス推論の具体的でコンパイル可能な例を必要とする開発者、または Qualcomm の AI Engine Direct / Genie SDK を自社製品に統合するためのリファレンス実装を必要とする開発者。

ライセンス – BSD-3 Clause。自由な使用と変更が可能です。


クイックリファレンステーブル

プラットフォーム 言語 ランタイム タスク例
Android Java / Kotlin TensorFlow Lite、GenieX 画像分類、物体検出、セグメンテーション、WhisperKit、GenieX チャット
Windows C++ / Python / Go ONNX、GenieX 分類、検出、超解像、Whisper、Stable Diffusion、SAM3
Ubuntu Python TensorFlow Lite ハンドジェスチャ、ポーズ、オーディオ、顔、3D 検出、LiDAR セグメンテーション

まとめ – このリポジトリは、Qualcomm Snapdragon ハードウェア上で直接実行される AI 対応アプリケーションを構築するための、本格的で実用的なリソースです。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト