felladrin/MiniSearch

MiniSearch – 可自行运行、私密的 AI 强化网页搜索

功能

• 一个可自托管的搜索引擎，为普通网页结果加入 AI 助手。
• 搜索后端是内置的 SearXNG 元搜索实例，会从许多公开搜索引擎获取结果。
• 这些结果会通过小型交叉编码器模型（ONNX Runtime）在本地重新排序，然后送入 AI 模型，生成简洁答案并引用来源。
• 所有 AI 推理都可以在您的浏览器内（WebGPU 或 CPU）进行，或通过您指定的任何 OpenAI 兼容 API（Ollama、LM Studio、vLLM、llama.cpp、AI Horde 等）进行。
• 界面会将历史记录、缓存与分析数据存储在浏览器的 IndexedDB 中，因此除非您启用远程 API，否则不会有任何数据离开您的机器。

为何重要

• 让您的查询保持私密：没有遥测、没有账号，而且您可以在自己的硬件上以 Docker 容器运行整个堆栈。
• 为您带来现代“搜索并附答案”体验的便利性，而不必依赖会看到您数据的第三方服务。
• 部署方式灵活：Docker 镜像、Docker‑Compose，或 Hugging Face Space，还可设为浏览器默认搜索引擎。

如何开始

1. 运行 Docker 镜像

   docker run -p 7860:7860 ghcr.io/felladrin/minisearch
   

   然后在浏览器中打开 http://localhost:7860。
2. （可选）固定特定的镜像 digest 以获得可重现的构建，或使用 README 所示的 Docker‑Compose。
3. （可选）使用提供的 docker-compose.production.yml 从源代码构建。
4. （可选）复制 Hugging Face Space 以托管一个免云端实例。

关键技术细节

• 浏览器 AI：135 M 到 4 B 参数的模型会下载一次并缓存；推理在可用时于 WebGPU 上运行，否则在 CPU 上运行。
• 重新排序：交叉编码器模型通过容器内的 ONNX Runtime 运行，在 SearXNG 结果到达界面之前重新排序。
• 丰富引用的答案：助手生成的响应包含指向原始搜索结果的行内引用，您也可以要求模型提供推理过程，或将答案朗读出来。
• 可扩展的后端：您可以将“AI Processing Location”指向远程 OpenAI 兼容端点，让您使用更大的模型而无需在本地下载。

可能的使用者

• 注重隐私、想要答案式搜索而不将数据发送给大型科技公司的用户。
• 需要沙箱化 AI 强化搜索进行实验的开发者或研究人员。
• 想将私密搜索助手嵌入内部工具或内网的团队。

许可证

• Apache 2.0 – 可自由使用、修改与分发。