qualcomm/ai-hub-apps

The Qualcomm® AI Hub apps are a collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.

解決的問題

它提供了一組範例應用程式和教學,協助開發者在高通裝置上部署機器學習模型,特別是針對裝置端執行進行優化。

工作原理

此程式庫提供開源的「應用程式食譜」和端對端的工作流程教學。這些應用程式利用各種執行時環境——包括 TensorFlow Lite、ONNX 和 Genie SDK——在 Android、Windows 和 Ubuntu 平台上的 CPU、GPU 和 NPU(Hexagon HTP)計算單元上執行模型。

適用對象

希望在 Snapdragon 搭載的硬體上實現 AI 任務(如大型語言模型、影像分類、物件偵測和語音轉文字)的開發者。

主要特色

  • 廣泛的硬體支援:針對多種 Snapdragon 處理器進行優化,包括 X Elite 和 8 Elite 系列。
  • 多平台支援:提供 Android、Windows 和 Ubuntu 的即用範例。
  • 多樣化的 AI 任務:涵蓋多種模式,包括生成式 AI(ChatApps)、電腦視覺(分割、超解析)和音訊(Whisper、YamNet)。
  • 彈性的執行時環境:支援多種推論 API,例如 TensorFlow Lite、ONNX 和 Genie SDK。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案