qualcomm/ai-hub-models

Qualcomm® AI Hub Models is our collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.

What it solves

Qualcomm 장치에 배포하기 위해 특별히 최적화된 최첨단 머신러닝 모델의 큐레이션된 컬렉션을 제공하여, 온디바이스 하드웨어용 모델의 컴파일, 양자화 및 프로파일링 과정의 마찰을 줄여줍니다.

How it works

사용자는 CLI 또는 Python API를 통해 모델을 찾아보고 다운로드할 수 있습니다. Qualcomm AI Hub Workbench와 통합되어, 사용자는 특정 타겟 런타임(예: TFLite 또는 ONNX) 및 하드웨어 타겟(CPU, GPU, NPU)에 대해 모델을 컴파일하고, 양자화를 수행하며, 최종 배포 가능한 자산을 다운로드하기 전에 실제 클라우드 호스팅 장치에서 성능을 프로파일링할 수 있습니다.

Who it’s for

Snapdragon 칩셋 및 기타 Qualcomm 플랫폼을 기반으로 하는 Android, Linux 또는 Windows 장치를 위한 AI 애플리케이션을 구축하는 개발자들을 위한 것입니다.

Highlights

  • Broad Hardware Support: Snapdragon Mobile, Compute, Automotive, 및 IoT 플랫폼의 광범위한 범위에 최적화되어 있습니다.
  • Comprehensive Model Zoo: 이미지 분류, 이미지 편집, 초해상도(super-resolution), 및 시맨틱 세그멘테이션(semantic segmentation)을 위한 방대한 모델 배열을 포함합니다.
  • End-to-End Demos: 대부분의 모델에 대해 전처리, 추론 및 후처리를 처리하는 CLI 데모를 제공합니다.
  • Multi-Runtime Support: Qualcomm AI Engine Direct, LiteRT (TensorFlow Lite), 및 ONNX와 호환됩니다.