nico-martin/gemma4-browser-extension

On-device AI agent Chrome extension powered by Transformers.js and Gemma 4

解決的問題

它提供了一個運行在瀏覽器中的私密本地 AI 助手,允許使用者在不將數據傳送到外部伺服器的情況下控制瀏覽器並與網頁內容進行互動。

工作原理

此擴充功能使用 Transformers.js 和 WebGPU 在本地執行 Gemma 4 模型。它採用了三部分架構:作為模型載入與推論的中央 AI 引擎的背景腳本、用於聊天介面的側邊欄,以及與 DOM 互動以提取文本或高亮顯示元素的內容腳本。它使用檢索增強生成 (RAG) 進行網頁互動,並使用 IndexedDB 中的向量資料庫進行語義歷史搜尋。

適用對象

想要擁有具備嚴格隱私保障的智慧瀏覽器助手,以及對在 Chrome 擴充功能中實作本地 LLM 感興趣的使用者。

亮點

  • 本地執行:使用 WebGPU 在裝置上完全本地執行,兼顧隱私與速度。
  • 瀏覽器控制:可以透過自然語言管理分頁(開啟、關閉、切換)。
  • 語義化網頁互動:使用 RAG 從當前頁面搜尋並提取資訊。
  • AI 歷史搜尋:使用向量嵌入(vector embeddings)透過語義搜尋取代關鍵字搜尋來查找瀏覽紀錄。
  • 視覺引導:可以高亮顯示並捲動到網頁上的特定元素,以引導使用者注意力。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案