Apogee:一款本地优先、注重隐私的 AI 浏览器助手
Apogee 是一款本地优先的 AI 浏览器助手,专为总结文章、视频、电子邮件和文档而设计,同时确保用户隐私完全不受侵犯。与基于云的 AI 扩展不同,Apogee 直接在用户设备上执行分词、推理、检索和缓存,无需 API 密钥、订阅或云数据传输。
本地推理架构
Apogee 利用浏览器原生技术在本地运行 LLM,确保页面内容和摘要永远不会离开设备。根据硬件和浏览器的不同,它支持多种执行后端:
- WebGPU:由 Chrome、Edge 及其他基于 Chromium 的浏览器使用,利用 GPU 实现更快的推理。
- WebAssembly (WASM):Firefox 的默认选项,也是 Chromium 浏览器的可选回退方案,使该工具能够在没有专用 GPU 的机器上运行。
- 本地服务器集成:高级用户可以通过本地回环连接(
127.0.0.1)将 Apogee 连接到本地 Ollama 实例或llama-server(通过 llama.cpp)。
核心功能与能力
Apogee 提供了一套工具,用于对各种媒体类型的内容进行提炼和交互:
网页内容与社交媒体
Apogee 使用 Readability 和特定站点提取器,从 Wikipedia、GitHub、Reddit、Hacker News、Bluesky、Mastodon、Lemmy、Discourse、Stack Overflow 和 arXiv 中清理文本。它可以通过浏览器上下文菜单总结整个页面或特定文本选择(最少 20 个字符)。
多媒体与文档
- 视频总结:支持 YouTube 和 Bilibili,提供交互式时间戳时间线,允许用户跳转到视频中的关键时刻。
- 文档支持:用户可以将 PDF、DOCX、TXT、Markdown、JSON 或 HTML 文件拖放到扩展中进行本地处理。
- 社交帖子串:将讨论站点解析为结构化的 Markdown,保留作者身份、评分和回复顺序。
高级交互
- 智能检索问答:采用本地段落匹配,允许用户在不丢失上下文的情况下就长文档提问。
- 定位:在 Chromium 浏览器中,用户可以点击摘要要点,页面会自动滚动到对应的源段落。
- 自定义:支持自定义常驻指令(系统提示)和每页焦点关键词,以引导 AI 的侧重点转向特定主题。
- 翻译:使用 Helsinki-NLP Opus-MT 引擎或直接 LLM 翻译,提供 32 种目标语言的多语言翻译。
隐私与安全模型
Apogee 旨在通过将所有处理限制在本地环境来防止数据泄露。主要安全措施包括:
- 零云传输:页面内容、转录文本或摘要均不会上传到云 API。
- 网络限制:与 Ollama 和 llama.cpp 的连接严格限制在
http://127.0.0.1,以防止外部数据传输。 - 敏感站点排除:为防止意外缓存私人数据,Apogee 将 Gmail、Outlook、Proton Mail、WhatsApp Web、Telegram Web、Slack、Discord 和 Microsoft Teams 等敏感域名排除在磁盘缓存之外。
- 匿名化查询:YouTube 赞助商查询使用 k-匿名哈希前缀,并且可以在设置中完全禁用,以获得完全本地化的体验。
与 Mozilla Orbit 的对比
Apogee 的灵感来自 Mozilla 已停产的 Orbit 项目。虽然 Orbit 尝试了基于浏览器的总结,但它依赖中央 API 服务器并将摘要存储在远程。Apogee 通过实现本地优先架构来区别于这一模式,推理和存储完全在用户设备上进行,消除了对远程服务器的依赖,并且在初始模型权重缓存后无需互联网连接。
Sources
相关
- Dispatch
- Dispatch
- 项目
- 项目
- 项目