qualcomm/ai-hub-models

Qualcomm® AI Hub Models is our collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.

What it solves

它提供了一个精选的最先进机器学习模型集合，专门针对 Qualcomm 设备部署进行了优化，从而减少了为设备端硬件进行模型编译、量化和性能分析的阻碍。

How it works

用户可以通过 CLI 或 Python API 浏览并下载模型。通过与 Qualcomm AI Hub Workbench 集成，该项目允许用户为特定的目标运行时（如 TFLite 或 ONNX）和硬件目标（CPU、GPU、NPU）编译模型，执行量化，并在下载最终的可部署资产之前，在真实的云端托管设备上进行性能分析。

Who it’s for

为基于 Snapdragon 芯片组和其他 Qualcomm 平台的 Android、Linux 或 Windows 设备构建 AI 应用的开发者。

Highlights

  • Broad Hardware Support: 针对广泛的 Snapdragon Mobile、Compute、Automotive 和 IoT 平台进行了优化。
  • Comprehensive Model Zoo: 包含大量用于图像分类、图像编辑、超分辨率和语义分割的模型。
  • End-to-End Demos: 提供处理大多数模型预处理、推理和后处理的 CLI 演示。
  • Multi-Runtime Support: 兼容 Qualcomm AI Engine Direct、LiteRT (TensorFlow Lite) 和 ONNX。