RunanywhereAI/on-device-browser-agent

它解决了什么问题

它消除了在使用 AI 网页代理时对云 API 密钥和外部服务器的需求。通过在用户本地机器上直接运行模型，确保页面内容和提示永远不会离开浏览器，提供一种私密、免费且无需配置的方式来自动化网页任务。

它如何工作

该项目是 Nanobrowser 的一个分支，用本地推理替代了基于云的 LLM 调用。它使用 RunAnywhere SDK，利用 WebAssembly 和 WebGPU 在 Chrome 扩展内部执行模型。虽然默认情况下采用本地执行，但它仍保留连接到云提供商的能力，以处理需要更强大前沿模型的任务。

适合谁

希望拥有一个本地运行、无需订阅费用或 API 密钥的私密 AI 浏览器代理的用户，以及对通过 WebGPU 实现本地设备 AI 执行感兴趣的开发者。

特色

• 本地优先推理：使用 WebAssembly 和 WebGPU 在扩展内部运行模型。
• 以隐私为中心：默认情况下，页面数据和提示都保留在本地机器上。
• 零配置：根据用户的硬件自动选择模型。
• 混合灵活性：同时支持本地模型和可选的云 LLM 服务提供商。

一个完全在设备上运行的 AI 网页代理，利用 WebGPU 实现私密、免费的网页任务自动化，无需依赖云 API。— @handle