felladrin/MiniSearch

Minimalist web-searching platform with an AI assistant that runs directly from your browser. Demo: https://felladrin-minisearch.hf.space

What it solves

MiniSearch는 프라이빗하고 자체 호스팅된 검색 엔진에 통합 AI 어시스턴트를 제공합니다. AI를 사용자의 브라우저에서 직접 실행함으로써 서드파티 추적, 텔레메트리, API 키가 필요 없으며, 여러 소스에서 검색 결과를 집계하면서도 사용자 쿼리를 단일 제공자에게 노출하지 않습니다.

How it works

시스템은 Docker 컨테이너를 사용해 앱 서버와 SearXNG 메타검색 인스턴스를 실행합니다. 사용자가 검색하면 서버가 결과를 집계하고 로컬 cross‑encoder 모델로 재순위화합니다. AI 어시스턴트는 이러한 결과를 기반으로 인용된 답변을 생성합니다. 추론은 세 가지 방식으로 이루어집니다: WebGPU 또는 CPU(wllama 사용)로 브라우저 내 로컬 실행, 설정된 OpenAI 호환 API를 통한 원격 실행, 혹은 크라우드소싱된 AI Horde를 통한 실행.

Who it’s for

주류 검색 엔진의 프라이빗 대안을 찾고, 디바이스 하드웨어나 비싼 API 구독에 의존하지 않으면서 AI 기반 요약 및 인용된 답변을 원하는 사용자들을 위한 것입니다.

Highlights

  • In-browser AI: 38개의 선별된 모델(135M~4B 파라미터)을 WebGPU 또는 CPU에서 지원.
  • Privacy-first: 계정, 추적, 텔레메트리 없음; 히스토리와 캐시된 결과는 브라우저의 IndexedDB에 저장.
  • Flexible Inference: 로컬 브라우저 추론, 원격 OpenAI 호환 API, AI Horde 지원.
  • Integrated Pipeline: 메타검색 집계, 로컬 재순위화, 인용된 AI 응답을 단일 Docker 컨테이너에 통합.
  • Workflow Integration: 브라우저 기본 검색 엔진으로 설정하거나 Raycast를 통해 트리거 가능.