google-ai-edge/gallery
A gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.
解決する課題
このプロジェクトは、強力なオープンソースの大規模言語モデル (LLMs) をモバイルおよびデスクトップのハードウェア上で直接実行するためのプラットフォームを提供します。すべてをローカルで処理することでクラウド接続の必要性を排除し、データ、プロンプト、メディアのプライバシーを保護しながら、高性能なAI機能を提供します。
仕組み
このアプリケーションは、Google AI Edge ツールと LiteRT ランタイムを活用し、デバイスのハードウェア上で直接機械学習モデルを実行します。これはサンドボックスとして機能し、Hugging Face からモデルをダウンロードしたり、独自のモデルを読み込んだり、ライブラリを管理したり、組み込みのベンチマークでパフォーマンスをテストしたりできます。アプリには、音声テキスト変換、画像分析、メディア検索などの事前構築された機能スイートが含まれており、サーバーにデータを送信することなく、これらのデバイス内モデルを活用してタスクを実行します。
対象ユーザー
モバイルデバイス (Android 12+ または iOS 17+) および macOS 上で生成AIモデルを実験、評価、デプロイしたい開発者、研究者、愛好家向けに設計されています。データプライバシーを優先し、言語学習から自動化されたデバイス操作まで、デバイス内AIの実用的なアプリケーションを探求したい方に最適です。
ハイライト
- 100% デバイス内プライバシー: すべてのモデル推論はローカルで行われ、インターネットは不要です。
- マルチモーダル機能: 画像識別、ビデオモーメント検索、リアルタイムメディア分析のためのツールが含まれています。
- エージェント機能: Wikipedia を介した事実確認やインタラクティブマップなど、プロアクティブなアシスタントスキルをサポートします。
- 開発者ツール: モデルパラメータをテストするための「Prompt Lab」と、特定のハードウェアでのパフォーマンスを測定するためのベンチマークスイートを備えています。
- 拡張性: ユーザーは URL やコミュニティの貢献からカスタムモデルやモジュール式のエージェントスキルを読み込むことができます。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト