nico-martin/gemma4-browser-extension

On-device AI agent Chrome extension powered by Transformers.js and Gemma 4

解决的问题

它提供了一个运行在浏览器中的私密本地 AI 助手,允许用户在不将数据发送到外部服务器的情况下控制浏览器并与网页内容进行交互。

工作原理

该扩展程序使用 Transformers.js 和 WebGPU 在本地运行 Gemma 4 模型。它采用了三部分架构:作为模型加载和推理的中央 AI 引擎的后台脚本、用于聊天界面的侧边栏,以及与 DOM 交互以提取文本或突出显示元素的脚本。它使用检索增强生成 (RAG) 进行网页交互,并使用 IndexedDB 中的向量数据库进行语义历史搜索。

适用对象

想要拥有具有严格隐私保障的智能浏览器助手,以及对在 Chrome 扩展程序中实现本地 LLM 感兴趣的用户。

亮点

  • 本地执行:使用 WebGPU 在设备上完全本地运行,兼顾隐私与速度。
  • 浏览器控制:可以通过自然语言管理标签页(打开、关闭、切换)。
  • 语义化网页交互:使用 RAG 从当前页面搜索并提取信息。
  • AI 历史搜索:使用向量嵌入(vector embeddings)通过语义搜索取代关键词搜索来查找浏览历史。
  • 视觉引导:可以高亮显示并滚动到网页上的特定元素,以引导用户注意力。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目