felladrin/MiniSearch

MiniSearch – 自分で運用できる、プライベートな AI 強化ウェブ検索

できること

• 通常のウェブ検索結果に AI アシスタントを追加するセルフホスト型検索エンジン。
• 検索バックエンドは同梱の SearXNG メタ検索インスタンスで、多くの公開検索エンジンから結果を取得します。
• それらの結果は小型のクロスエンコーダーモデル（ONNX Runtime）でローカルに再ランク付けされ、その後 AI モデルに渡されて、出典を引用した簡潔な回答を生成します。
• すべての AI 推論はブラウザ内（WebGPU または CPU）で実行でき、または指定した任意の OpenAI 互換 API（Ollama、LM Studio、vLLM、llama.cpp、AI Horde など）経由で実行できます。
• UI は履歴、キャッシュ、分析データをブラウザの IndexedDB に保存するため、リモート API を有効にしない限り、何もマシンから出ません。

なぜ重要か

• クエリをプライベートに保ちます：テレメトリなし、アカウントなし、そしてスタック全体を自分のハードウェア上の Docker コンテナで実行できます。
• あなたのデータを見るサードパーティサービスに依存せず、現代的な「回答付き検索」体験の利便性を提供します。
• 柔軟なデプロイ：Docker イメージ、Docker‑Compose、または Hugging Face Space。さらにブラウザの既定の検索エンジンとして設定できます。

はじめ方

1. Docker イメージを実行

   docker run -p 7860:7860 ghcr.io/felladrin/minisearch
   

   その後、ブラウザで http://localhost:7860 を開きます。
2. （任意）再現可能なビルドのために特定のイメージ digest を固定するか、README に示す Docker‑Compose を使用します。
3. （任意）提供されている docker-compose.production.yml でソースからビルドします。
4. （任意）Hugging Face Space を複製して、クラウド不要のインスタンスをホストします。

技術的なポイント

• ブラウザ AI：135 M から 4 B パラメータのモデルを一度ダウンロードしてキャッシュします。推論は利用可能な場合は WebGPU で、そうでなければ CPU で実行されます。
• 再ランク付け：クロスエンコーダーモデルがコンテナ内の ONNX Runtime で実行され、SearXNG の結果が UI に届く前に並べ替えます。
• 引用豊富な回答：アシスタントは元の検索結果へのインライン引用を含む応答を生成します。モデルの推論を要求したり、回答を読み上げさせることもできます。
• 拡張可能なバックエンド：「AI Processing Location」をリモートの OpenAI 互換エンドポイントに向けることで、ローカルにダウンロードせずにより大きなモデルを使用できます。

利用が想定される人

• ビッグテックにデータを送らずに回答形式の検索を求める、プライバシーを重視するユーザー。
• 実験用にサンドボックス化された AI 強化検索を必要とする開発者や研究者。
• 内部ツールやイントラネットにプライベート検索アシスタントを組み込みたいチーム。

ライセンス

• Apache 2.0 – 自由に使用、変更、配布できます。