qualcomm/ai-hub-apps

何を解決するか

それは、開発者がQualcommデバイスに機械学習モデルをデプロイし、特にオンデバイス実行用に最適化するのを支援するための、サンプルアプリケーションとチュートリアルのコレクションを提供します。

仕組み

このリポジトリは、オープンソースの「app recipes」とエンドツーエンドのワークフローチュートリアルを提供します。これらのアプリは、TensorFlow Lite、ONNX、およびGenie SDKを含むさまざまなランタイムを活用して、Android、Windows、およびUbuntuプラットフォームにわたるCPU、GPU、およびNPU (Hexagon HTP) コンピューティングユニット上でモデルを実行します。

対象者

Snapdragon搭載ハードウェア上で、LLM、画像分類、物体検出、音声からテキストへの変換などのAIタスクを実装しようとしている開発者。

ハイライト

• 幅広いハードウェアサポート: X Eliteおよび8 Eliteシリーズを含む、幅広いSnapdragonチップセット向けに最適化されています。
• マルチプラットフォーム: Android、Windows、およびUbuntu用のすぐに使える例が含まれています。
• 多様なAIタスク: 生成AI (ChatApps)、コンピュータビジョン (segmentation, super resolution)、およびオーディオ (Whisper, YamNet) を含む、さまざまなモダリティをカバーしています。
• 柔軟なランタイム: TensorFlow Lite、ONNX、およびGenie SDKなどの複数の推論APIをサポートしています。