felladrin/MiniSearch

Minimalist web-searching platform with an AI assistant that runs directly from your browser. Demo: https://felladrin-minisearch.hf.space

What it solves

MiniSearch 提供一個私人的、自託管的搜尋引擎，內建 AI 助手。它透過讓 AI 直接在使用者的瀏覽器中執行，消除第三方追蹤、遙測與 API 金鑰的需求，同時從多個來源彙整搜尋結果，且不會將使用者查詢暴露給單一供應商。

How it works

系統使用 Docker 容器來執行應用伺服器與 SearXNG 元搜尋實例。當使用者搜尋時，伺服器會彙整結果並使用本地 cross‑encoder 模型重新排序。AI 助手再根據這些結果產生帶有引用的答案。此推論可透過三種方式進行：在瀏覽器內透過 WebGPU 或 CPU（使用 wllama）本地執行、透過已設定的相容 OpenAI API，或透過群眾外包的 AI Horde。

Who it’s for

尋找私密替代主流搜尋引擎的使用者，想要 AI 驅動的摘要與帶引用的答案，且不依賴裝置硬體或昂貴的 API 訂閱。

Highlights

  • In-browser AI: 支援 38 種精選模型（135M 至 4B 參數），可在 WebGPU 或 CPU 上執行。
  • Privacy-first: 無帳號、追蹤或遙測；歷史與快取結果儲存在瀏覽器的 IndexedDB 中。
  • Flexible Inference: 支援本地瀏覽器推論、遠端相容 OpenAI 的 API，以及 AI Horde。
  • Integrated Pipeline: 在單一 Docker 容器中結合元搜尋彙整、本地重新排序與帶引用的 AI 回應。
  • Workflow Integration: 可設為瀏覽器的預設搜尋引擎，或透過 Raycast 觸發。