qualcomm/ai-hub-apps

The Qualcomm® AI Hub apps are a collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.

What it solves

개발자가 Qualcomm 장치에 머신러닝 모델을 배포하고, 특히 온디바이스 실행에 최적화할 수 있도록 돕는 샘플 애플리케이션 및 튜토리얼 모음을 제공합니다.

How it works

이 저장소는 오픈 소스 "app recipes"와 엔드 투 엔드 워크플로우 튜토리얼을 제공합니다. 이 앱들은 TensorFlow Lite, ONNX, Genie SDK를 포함한 다양한 런타임을 활용하여 Android, Windows, Ubuntu 플랫폼의 CPU, GPU 및 NPU (Hexagon HTP) 컴퓨팅 유닛에서 모델을 실행합니다.

Who it’s for

Snapdragon 기반 하드웨어에서 LLM, 이미지 분류, 객체 탐지, 음성-텍스트 변환과 같은 AI 작업을 구현하려는 개발자들을 위한 것입니다.

Highlights

  • Broad Hardware Support: X Elite 및 8 Elite 시리즈를 포함한 광범위한 Snapdragon 칩셋에 최적화되어 있습니다.
  • Multi-Platform: Android, Windows, Ubuntu용 즉시 사용 가능한 예제를 포함합니다.
  • Diverse AI Tasks: 생성형 AI (ChatApps), 컴퓨터 비전 (segmentation, super resolution), 오디오 (Whisper, YamNet)를 포함한 다양한 모달리티를 다룹니다.
  • Flexible Runtimes: TensorFlow Lite, ONNX, Genie SDK와 같은 여러 추론 API를 지원합니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트