veyliss/ai-localbase

해결하는 문제

AI LocalBase는 개인 및 소규모 팀이 빠르게 사내 지식 기반을 구축할 수 있도록 설계된 로컬 우선의 검색 증강 생성(RAG) 시스템입니다. 외부 클라우드 서비스에 의존하지 않고 로컬 문서를 벡터 검색 및 LLM 대화 흐름에 통합하는 문제를 해결합니다.

작동 방식

시스템은 Go 기반 백엔드와 React 프론트엔드를 사용합니다. 문서 임베딩을 저장하고 검색하기 위해 Qdrant을 벡터 데이터베이스로 통합합니다. 사용자는 TXT, Markdown, PDF, xlsx, csv 파일을 업로드할 수 있으며, 자동으로 분할 및 임베딩됩니다. 실제 대화 및 임베딩 생성을 위해 Ollama 또는 OpenAI 호환 API를 통해 LLM에 연결할 수 있습니다.

대상 사용자

• 개인용 사생활 보호가 가능한 로컬 지식 기반을 원하는 사용자.
• 내부 문서 Q&A 시스템이 필요한 소규모 팀.
• 다양한 RAG 검색 전략을 프로토타이핑하고 실험하고 싶은 개발자.
• Cursor나 Claude Desktop과 같은 AI 에이전트 사용자 중 로컬 지식 기반에 내장된 MCP 서버를 통해 연결하고 싶은 사용자.

주요 기능

• 로컬 우선 아키텍처: Docker Compose를 통해 완전히 자체 호스팅되며, 채팅 기록은 SQLite, 설정은 JSON을 사용합니다.
• 고급 검색 기능: 중복 제거를 위한 MMR(Maximal Marginal Relevance), 하이브리드 검색, 의미적 재정렬, 쿼리 재작성 기능 포함.
• MCP 서버 통합: 내장된 Model Context Protocol(MCP) 지원으로 외부 AI 에이전트가 지식 기반과 세션 기능에 접근할 수 있습니다.
• 큐레이션 및 평가: 기존 문서에서 RAG 평가 데이터셋을 생성하여 검색 품질을 검증할 수 있습니다.
• 유연한 모델 접근성: Ollama와 같은 로컬 제공자와 OpenAI와 같은 클라우드 제공자 모두 호환됩니다.