qualcomm/ai-hub-apps
The Qualcomm® AI Hub apps are a collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.
它解决了什么问题
它提供了一组示例应用程序和教程，帮助开发者在高通设备上部署机器学习模型，特别是针对设备端执行进行优化。
它如何工作
该仓库提供了开源的「应用配方」和端到端的工作流教程。这些应用程序利用多种运行时（包括 TensorFlow Lite、ONNX 和 Genie SDK），在 Android、Windows 和 Ubuntu 平台上于 CPU、GPU 和 NPU（Hexagon HTP）计算单元上运行模型。
适合谁
希望在搭载骁龙硬件的设备上实现 AI 任务（如 LLM、图像分类、目标检测和语音转文本）的开发者。
主要亮点
- 广泛的硬件支持：针对多种骁龙芯片组进行了优化，包括 X Elite 和 8 Elite 系列。
- 多平台支持：包含适用于 Android、Windows 和 Ubuntu 的即用型示例。
- 多样化的 AI 任务：涵盖多种模态，包括生成式 AI（ChatApps）、计算机视觉（分割、超分辨率）和音频（Whisper、YamNet）。
- 灵活的运行时：支持多种推理 API，如 TensorFlow Lite、ONNX 和 Genie SDK。
一个用于在高通骁龙硬件上进行设备端机器学习部署的示例应用和教程集合 — @handle
相关
- 项目
- 项目
- 项目
- 项目
- 项目