qualcomm/ai-hub-models

해결하는 문제

Qualcomm 하드웨어에 특별히 최적화된 최신 기계학습 모델의 정성스럽게 선별된 컬렉션을 제공하여, 디바이스 내 실행을 위한 모델 컴파일, 양자화, 프로파일링의 복잡성을 줄입니다.

작동 방식

사용자는 CLI 또는 Python API를 통해 최적화된 모델을 탐색하고 다운로드할 수 있습니다. Qualcomm AI Hub Workbench와 통합되어 특정 타겟 런타임(TFLite 또는 ONNX 등)과 정밀도(INT8 또는 FP16 등)에 맞는 모델 컴파일 파이프라인을 자동화하고, 실제 클라우드 호스팅 디바이스에서 성능을 프로파일링하며, PyTorch 출력과 비교하여 정확도를 검증하는 추론을 수행합니다.

대상 사용자

Qualcomm 기반 장치용 AI 애플리케이션을 개발하는 개발자들로, 안드로이드 스마트폰(Samsung Galaxy, Xiaomi), 윈도우 노트북(Snapdragon X Elite), 자동차 또는 IoT 플랫폼을 포함합니다.

주요 특징

• 포괄적인 모델 자료관: 이미지 분류, 이미지 편집, 슈퍼해상도, 세그멘테이션에 사용 가능한 다양한 모델을 포함합니다.
• 하드웨어별 최적화: CPU, GPU, NPU(헥사곤 DSP 및 HTP 포함)에서의 배포를 지원합니다.
• 자동화된 워크플로우: 모델 내보내기 및 양자화에서 디바이스 내 프로파일링과 추론에 이르기까지 프로세스를 간소화합니다.
• 엔드투엔드 데모: 즉시 테스트가 가능한 전처리, 추론, 후처리를 포함한 CLI 기반 데모를 제공합니다.