felladrin/MiniSearch

해결하는 문제

MiniSearch는 통합된 AI 어시스턴트를 갖춘 개인적이고 자체 호스팅 가능한 검색 엔진입니다. 사용자가 브라우저 내부 또는 자체 호스팅된 백엔드에서 AI 모델을 직접 실행할 수 있어, 제3자 추적, 원격 데이터 전송, 외부 API 키의 필요성을 제거합니다.

작동 방식

사용자가 쿼리를 입력하면 앱 서버는 번들된 SearXNG 인스턴스를 사용하여 다양한 검색 엔진에서 결과를 집계합니다. 이 결과들은 로컬에서 크로스 인코더 모델을 사용해 재순위 지정됩니다. AI 응답 기능이 활성화된 경우 AI 어시스턴트는 상위 결과를 읽고 인용된 답변을 생성합니다. 이 추론은 WebGPU 또는 CPU를 통해 브라우저 내에서 완전히 수행될 수 있으며, 설정된 원격 OpenAI 호환 API를 통해 수행할 수도 있습니다.

대상 사용자

AI 기반 요약과 인용 정보를 제공하는 개인적인 검색 경험을 원하는 사용자, 그리고 데이터를 스스로 통제하고 싶어하는 사용자에게 적합합니다.

주요 특징

• 브라우저 기반 AI: WebGPU 또는 CPU에서 실행 가능한 커스터마이즈된 모델(135M ~ 4B 파라미터)을 지원하며, 브라우저 내부에 로컬 캐시됩니다.
• 개인정보 보호 설계: 계정이나 추적 없이 작동하며, 검색 기록과 대화는 브라우저의 IndexedDB에 저장됩니다.
• 검증된 답변: AI 응답에는 사용된 출처가 인용되며, 대화 기록을 활용해 후속 질문에 답변할 수 있습니다.
• 유연한 백엔드: OpenAI 호환 API(Ollama, vLLM 등) 및 AI Horde와 호환됩니다.
• 완전한 파이프라인: SearXNG 메타검색 엔진과 로컬 재순위 모델을 포함하여 더 나은 결과 품질을 제공합니다.