qualcomm/ai-hub-apps

Qualcomm® AI Hub Apps – 简介

用途 – 提供精选的示例应用和分步教程，展示如何在 Qualcomm 硬件（Snapdragon CPU、GPU 和 Hexagon NPU）上运行机器学习模型。这些应用演示了常见视觉、音频和语言任务的端到端推理流水线，并基于 Qualcomm 支持的运行时而构建。

主要特性

• 多运行时 – TensorFlow Lite、ONNX Runtime 和 Qualcomm 自家的 Genie SDK（用于生成式 AI）。
• 跨平台 – 提供适用于 Android（Java/Kotlin）、Windows（C++/Python/Go）和 Ubuntu（Python）的现成代码。
• 硬件加速 – 提供在 Snapdragon 芯片组上使用 CPU、GPU 和 Hexagon NPU（HTP）的说明，以及所需数据类型（FP16、INT8/INT16）的详细信息。
• 任务目录 – 图像分类、目标检测、语义分割、超分辨率、语音转文本（Whisper）、Stable Diffusion、手势识别、姿态估计、音频分类、人脸识别、3D 检测、LiDAR 分割，以及通过 GenieX 实现 LLM 聊天。
• 教程 – 指导如何使用 Genie SDK 在设备上导出和运行大型语言模型。

典型工作流程

1. 从 README 中的表中选择任务和平台。
2. 按照应用特定的 README 进行构建（例如，Android 使用 Gradle，Windows 使用 CMake，Ubuntu 使用 pip），并安装所需的运行时库。
3. 从 Qualcomm AI Hub 模型目录加载兼容的模型。
4. 运行应用；代码将根据设备自动选择最佳可用计算单元（CPU/GPU/NPU）。

适用对象 – 希望在 Snapdragon 设备上获得具体且可编译的端到端推理示例的开发者，或者需要参考实现以将 Qualcomm AI Engine Direct / Genie SDK 集成到其产品中的开发者。

许可证 – BSD-3 Clause，允许自由使用和修改。

---

快速参考表

平台	语言	运行时	示例任务
Android	Java / Kotlin	TensorFlow Lite, GenieX	图像分类、目标检测、分割、WhisperKit、GenieX 聊天
Windows	C++ / Python / Go	ONNX, GenieX	分类、检测、超分辨率、Whisper、Stable Diffusion、SAM3
Ubuntu	Python	TensorFlow Lite	手势、姿态、音频、人脸、3D 检测、LiDAR 分割

---

总结 – 该仓库是构建直接在 Qualcomm Snapdragon 硬件上运行的 AI 应用的真实且实用的资源。