qualcomm/ai-hub-apps
The Qualcomm® AI Hub apps are a collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.
解決的問題
它提供了一組範例應用程式和教學,協助開發者在高通裝置上部署機器學習模型,特別是針對裝置端執行進行優化。
工作原理
此程式庫提供開源的「應用程式食譜」和端對端的工作流程教學。這些應用程式利用各種執行時環境——包括 TensorFlow Lite、ONNX 和 Genie SDK——在 Android、Windows 和 Ubuntu 平台上的 CPU、GPU 和 NPU(Hexagon HTP)計算單元上執行模型。
適用對象
希望在 Snapdragon 搭載的硬體上實現 AI 任務(如大型語言模型、影像分類、物件偵測和語音轉文字)的開發者。
主要特色
- 廣泛的硬體支援:針對多種 Snapdragon 處理器進行優化,包括 X Elite 和 8 Elite 系列。
- 多平台支援:提供 Android、Windows 和 Ubuntu 的即用範例。
- 多樣化的 AI 任務:涵蓋多種模式,包括生成式 AI(ChatApps)、電腦視覺(分割、超解析)和音訊(Whisper、YamNet)。
- 彈性的執行時環境:支援多種推論 API,例如 TensorFlow Lite、ONNX 和 Genie SDK。
相關
- 專案
- 專案
- 專案
- 專案
- 專案