qualcomm/ai-hub-models

解決的問題

提供一組專為 Qualcomm 硬體部署而特別優化之最新機器學習模型，大幅降低在裝置上執行模型時，進行編譯、量化與效能分析的複雜度。

運作方式

使用者可透過 CLI 或 Python API 浏覽並下載優化後的模型。透過與 Qualcomm AI Hub Workbench 整合，本專案可自動化模型編譯（針對特定目標執行環境，如 TFLite 或 ONNX）與精度（如 INT8 或 FP16）的流程，自動在真實雲端主機裝置上進行效能分析，並執行推論以驗證其準確性是否與 PyTorch 輸出一致。

適用對象

為 Qualcomm 驅動裝置開發 AI 應用的開發者，包含 Android 智慧型手機（三星 Galaxy、Xiaomi）、Windows 電腦（Snapdragon X Elite）以及車用或 IoT 平台。

主要特色

• 全面的模型資料庫：涵蓋影像分類、影像編輯、超解析度與語意分割等多種模型。
• 硬體特定優化：支援在 CPU、GPU 與 NPU（含 Hexagon DSP 與 HTP）上部署。
• 自動化工作流程：從模型匯出與量化，到裝置端效能分析與推論，流程高度自動化。
• 端對端示範：提供 CLI 基礎示範，可自動處理前處理、推論與後處理，方便立即測試。