felladrin/MiniSearch

解决的问题

MiniSearch 提供一个私有的、可自我托管的搜索引擎，并集成了 AI 助手。它允许用户在浏览器中或通过自托管后端直接运行 AI 模型，从而无需依赖第三方跟踪、遥测数据或外部 API 密钥。

工作原理

当用户输入查询时，应用服务器使用捆绑的 SearXNG 实例从多个搜索引擎聚合结果。这些结果随后通过本地的交叉编码器模型进行重新排序。如果启用了 AI 响应，AI 助手将阅读前几条结果，生成带有引用的答案。该推理过程可以在浏览器内完全完成（通过 WebGPU 或 CPU），也可以通过配置的远程 OpenAI 兼容 API 执行。

适用人群

寻求 AI 驱动的摘要和引用功能的私有搜索体验的用户，以及希望自行托管搜索基础设施以掌控自身数据的用户。

主要亮点

• 浏览器内 AI：支持在 WebGPU 或 CPU 上运行的精选模型（135M 到 4B 参数），并缓存在浏览器本地。
• 设计上注重隐私：无需账户或跟踪；搜索历史和聊天记录存储在浏览器的 IndexedDB 中。
• 可验证的回答：AI 回答包含所用来源的引用，并支持通过对话记忆进行后续提问。
• 灵活的后端：兼容 OpenAI 兼容 API（Ollama、vLLM 等）和 AI Horde。
• 完整流程：包含捆绑的 SearXNG 元搜索引擎和本地重排序器，以提升结果质量。