qualcomm/ai-hub-models

Qualcomm® AI Hub Models is our collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.

What it solves

它提供一套最先進的機器學習模型,專門為 Qualcomm 裝置的部署進行優化,減少在編譯、量化與效能分析模型以適應裝置硬體時的阻礙。

How it works

使用者可以透過 CLI 或 Python API 瀏覽與下載模型。結合 Qualcomm AI Hub Workbench,專案允許使用者為特定目標執行環境(如 TFLite 或 ONNX)與硬體目標(CPU、GPU、NPU)編譯模型,為提升效能而量化模型,並在雲端實體裝置上分析效能,最後下載最終可部署的資產。

Who it’s for

開發 Android、Linux 或 Windows 裝置上 AI 應用的開發者,這些裝置使用 Snapdragon 晶片組及其他 Qualcomm 平台。

Highlights

  • Broad Hardware Support: 支援廣泛的 Qualcomm 晶片組,包括 Snapdragon 8 Elite、X Elite 以及各種車載與 IoT 平台。
  • End-to-End Demos: 包含處理前處理、推論與後處理的 CLI 示範,適用於多種模型。
  • Multi-Runtime Support: 相容於 Qualcomm AI Engine Direct、LiteRT(TensorFlow Lite)與 ONNX。
  • Comprehensive Model Zoo: 提供大量電腦視覺模型,涵蓋影像分類、編輯、超解析度與語意分割等任務。