qualcomm/ai-hub-apps
The Qualcomm® AI Hub apps are a collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.
Qualcomm® AI Hub Apps – 개요
목적 – Qualcomm 하드웨어(Snapdragon CPU, GPU, Hexagon NPU)에서 기계 학습 모델을 실행하는 방법을 보여주는 엄선된 샘플 애플리케이션 및 단계별 튜토리얼을 제공합니다. 앱은 일반적인 비전, 오디오, 언어 작업을 위한 종단 간 추론 파이프라인을 보여주며 Qualcomm이 지원하는 런타임을 기반으로 구축됩니다.
주요 기능
- 다중 런타임 – TensorFlow Lite, ONNX Runtime 및 Qualcomm 자체 Genie SDK(생성 AI용).
- 크로스 플랫폼 – Android(Java/Kotlin), Windows(C++/Python/Go), Ubuntu(Python)용 기성 코드.
- 하드웨어 가속 – Snapdragon 칩셋에서 CPU, GPU 및 Hexagon NPU(HTP)를 사용하는 방법과 필요한 데이터 유형(FP16, INT8/INT16)에 대한 자세한 정보.
- 작업 카탈로그 – 이미지 분류, 객체 감지, 의미론적 분할, 초해상도, 음성 인식(Whisper), Stable Diffusion, 손 제스처 인식, 포즈 추정, 오디오 분류, 얼굴 인식, 3D 감지, LiDAR 분할, GenieX를 통한 LLM 채팅.
- 튜토리얼 – Genie SDK로 대규모 언어 모델을 온디바이스로 내보내고 실행하는 가이드.
일반적인 워크플로
- README의 표에서 작업과 플랫폼을 선택합니다.
- 앱별 README를 따라 빌드하고(예: Android는 Gradle, Windows는 CMake, Ubuntu는 pip) 필요한 런타임 라이브러리를 설치합니다.
- Qualcomm AI Hub 모델 카탈로그에서 호환 모델을 로드합니다.
- 앱을 실행합니다. 코드는 기기에 따라 사용 가능한 최상의 컴퓨팅 유닛(CPU/GPU/NPU)을 자동으로 선택합니다.
대상 – Snapdragon 기기에서 온디바이스 추론의 구체적이고 컴파일 가능한 예제가 필요한 개발자, 또는 Qualcomm AI Engine Direct / Genie SDK를 자사 제품에 통합하기 위한 참조 구현이 필요한 개발자.
라이선스 – BSD-3 조항, 무료 사용 및 수정 허용.
빠른 참조 표
| 플랫폼 | 언어 | 런타임 | 작업 예 |
|---|---|---|---|
| Android | Java / Kotlin | TensorFlow Lite, GenieX | 이미지 분류, 객체 감지, 분할, WhisperKit, GenieX 채팅 |
| Windows | C++ / Python / Go | ONNX, GenieX | 분류, 감지, 초해상도, Whisper, Stable Diffusion, SAM3 |
| Ubuntu | Python | TensorFlow Lite | 손 제스처, 포즈, 오디오, 얼굴, 3D 감지, LiDAR 분할 |
결론 – 이 저장소는 Qualcomm Snapdragon 하드웨어에서 직접 실행되는 AI 지원 애플리케이션 구축을 위한 진정하고 실용적인 리소스입니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트