qualcomm/ai-hub-models

Qualcomm® AI Hub Models is our collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.

What it solves

Qualcommデバイスへのデプロイ用に特別に最適化された、最先端の機械学習モデルの厳選されたコレクションを提供します。これにより、モデルのコンパイル、量子化、およびオンデバイスハードウェア向けのプロファイリングの摩擦を軽減します。

How it works

ユーザーはCLIまたはPython APIを介してモデルを閲覧およびダウンロードできます。Qualcomm AI Hub Workbenchと統合することで、このプロジェクトでは、ユーザーが特定のターゲットランタイム(TFLiteやONNXなど)およびハードウェアターゲット(CPU、GPU、NPU)に対してモデルをコンパイルし、量子化を実行し、最終的なデプロイ可能なアセットをダウンロードする前に、実際にクラウドでホストされたデバイス上でパフォーマンスをプロファイリングできる仕組みを提供します。

Who it’s for

Snapdragonチップセットやその他のQualcommプラットフォームを搭載したAndroid、Linux、またはWindowsデバイス向けのAIアプリケーションを構築している開発者。

Highlights

  • Broad Hardware Support: Snapdragon Mobile、Compute、Automotive、およびIoTプラットフォームの幅広い範囲に最適化されています。
  • Comprehensive Model Zoo: 画像分類、画像編集、超解像、およびセマンティックセグメンテーションのための膨大な数のモデルが含まれています。
  • End-to-End Demos: ほとんどのモデルに対して、前処理、推論、および後処理を処理するCLIデモを提供します。
  • Multi-Runtime Support: Qualcomm AI Engine Direct、LiteRT (TensorFlow Lite)、およびONNXと互換性があります。