google-ai-edge/gallery

A gallery that showcases on-device ML/GenAI use cases and allows people to try and use models locally.

解決する課題

Google AI Edge Galleryは、高性能なオープンソースの大規模言語モデル(LLM)とマルチモーダルAIをモバイルデバイスとmacOSに直接もたらすために設計されたアプリケーションです。クラウドベースのAIの必要性を排除し、ユーザーはプライバシー、速度、アクセシビリティを向上させるために、モデルを完全にオフラインで実行できます。

仕組み

このアプリは、Google AI Edge APIとLiteRTランタイムを活用して、デバイス上の実行を最適化します。モデルの発見とダウンロードのためにHugging Faceと統合されており、ユーザーはさまざまなオープンソースモデルや独自のカスタムモデルを読み込むことができます。

対象読者

Android、iOS、macOSでデバイス上の生成AI機能を体験、評価、テストしたい開発者やAI愛好家。

ハイライト

  • Agent Skills:LLMにWikipediaやインタラクティブマップなどのツールを追加し、プロアクティブなアシスタントにします。
  • AI Chat with Thinking Mode:マルチターン会話をサポートし、Gemma 4などの対応モデルで推論プロセスビューを提供します。
  • Instant Media Search & Video Moment Finder:EmbeddingGemma 2を使用して、写真と動画のデバイス上のセマンティック検索を実現します。
  • Ask Image:カメラやギャラリーを介してオブジェクトを識別し、視覚パズルを解くためのマルチモーダル機能。
  • Audio Scribe:音声録音のリアルタイムのデバイス上文字起こしと翻訳。
  • Prompt Lab:温度(temperature)やtop-kなどのパラメータを細かく制御してプロンプトをテストするためのワークスペース。
  • Mobile Actions & Tiny Garden:FunctionGemma 270mを使用したオフラインのデバイス制御と自動タスクをデモンストレーションします。
  • Model Management & Benchmark:特定のハードウェアでモデルをダウンロード、管理、およびパフォーマンスベンチマークを実行するためのツール。

関連

  • プロジェクト
  • Dispatch
  • プロジェクト
  • プロジェクト
  • プロジェクト