nico-martin/gemma4-browser-extension

解決する課題

ブラウザ内で動作するプライベートなオンデバイスAIアシスタントを提供し、外部サーバーにデータを送信することなく、ユーザーがブラウザを制御しウェブページの内容と対話できるようにします。

仕組み

この拡張機能は、Transformers.jsとWebGPUを使用してGemma 4モデルをローカルで実行します。3部構成のアーキテクチャを採用しています：モデルのロードと推論を行う中央AIエンジンとして機能するバックグラウンドスクリプト、チャットインターフェース用のサイドパネル、およびテキストの抽出や要素のハイライトのためにDOMと対話するコンテンツスクリプトです。ウェブページとの対話にはRetrieval-Augmented Generation (RAG)を使用し、セマンティックな履歴検索にはIndexedDB内のベクトルデータベースを使用します。

対象ユーザー

厳格なプライバシー保証を備えたインテリジェントなブラウザアシスタントを求めるユーザー、およびChrome拡張機能内でローカルLLMを実装することに興味がある開発者。

ハイライト

• ローカル実行: プライバシーと速度のために、WebGPUを使用して完全にデバイス上で実行されます。
• ブラウザ制御: 自然言語を介してタブ（開く、閉じる、切り替え）を管理できます。
• セマンティックなウェブ操作: RAGを使用して、現在のページから情報を検索および抽出します。
• AI履歴検索: ベクトル埋め込みを使用して、キーワード検索に代わる閲覧履歴のセマンティック検索を実現します。
• 視覚的ガイダンス: ユーザーの注意を向けるために、ウェブページ上の特定の要素をハイライトしたり、そこまでスクロールしたりできます。