veyliss/ai-localbase

해결하고자 하는 문제

AI LocalBase는 로컬 퍼스트 RAG(Retrieval‑Augmented Generation) 시스템으로, 개인 및 소규모 팀이 프라이빗 지식 베이스를 빠르게 구축할 수 있도록 설계되었습니다. 로컬 문서를 벡터 검색 프로세스와 대형 언어 모델(LLM)에 연결하여 대화형 Q&A를 제공함으로써 데이터가 자체 호스팅 환경에 머물도록 보장합니다.

작동 방식

시스템은 Go 기반 백엔드와 React 프런트엔드로 구성됩니다. 업로드된 문서(TXT, Markdown, PDF, xlsx, csv)를 임베딩 모델을 사용해 임베딩으로 변환하고 Qdrant 벡터 데이터베이스에 저장합니다. 사용자가 질문을 하면 시스템은 관련 문서 청크를 검색해 LLM 컨텍스트에 주입합니다. Ollama와 통합해 완전 로컬 실행이 가능하며, OpenAI 호환 API를 통해 클라우드 기반 모델과도 연동할 수 있습니다.

대상 사용자

• 프라이빗하고 로컬에 저장된 개인 지식 베이스를 원하는 개인 사용자.
• 자체 호스팅 내부 문서 Q&A 시스템이 필요한 소규모 팀.
• RAG 프로토타입을 테스트하거나 다양한 검색 전략을 실험하고자 하는 개발자.
• AI 에이전트(Cursor 또는 Claude Desktop 등)를 사용하며, 내장 MCP 서버를 통해 로컬 지식 베이스에 연결하고 싶은 사용자.

주요 특징

• 로컬 퍼스트 아키텍처: Docker Compose를 통한 완전 자체 호스팅 배포, 채팅 기록은 SQLite에 저장, 설정은 JSON 형식.
• 고급 검색: 자동 텍스트 분할, MMR 중복 제거, 하이브리드 검색, 의미 재정렬, 쿼리 재작성 기능 제공.
• MCP 서버 통합: 내장 Model Context Protocol(MCP) 서버를 통해 외부 AI 에이전트가 지식 베이스와 세션 기능에 접근 가능.
• 다양한 문서 지원: PDF, Excel, CSV 등 다양한 파일 형식 지원.
• RAG 평가: 기존 지식 베이스 문서에서 평가 데이터셋을 생성하여 검색 품질을 검증할 수 있음.