shinpr/mcp-local-rag

해결하는 문제

mcp-local-rag는 외부 임베딩 API에 데이터를 전송하지 않고도 사내 문서를 검색할 수 있는 로컬 검색 증강 생성(RAG) 시스템입니다. 모든 문서 파싱, 임베딩, 저장을 로컬 머신에서 수행함으로써 기밀성과 비용 효율성을 동시에 달성합니다. 또한 의미 기반 검색이 정확한 기술 용어(예: API 이름, 오류 코드 등)를 놓치는 문제를 해결하기 위해 하이브리드 검색 방식을 도입했습니다.

작동 방식

시스템은 주로 두 단계로 작동합니다:

1. 인제스트(Ingestion): PDF, DOCX, Markdown, TXT 또는 HTML 데이터를 파싱하고, 세마틱 청킹(마크다운 코드 블록을 유지)을 사용해 청크로 분할한 후, Transformers.js를 사용해 로컬에서 임베딩을 생성하고 LanceDB 벡터 데이터베이스에 저장합니다.
2. 검색(Search): 쿼리가 입력되면 시스템은 쿼리를 임베딩하고 의미적으로 관련된 청크를 벡터 검색으로 찾습니다. 이후 키워드 부스팅을 적용하여 정확한 기술 용어가 더 높은 순위에 오르도록 합니다.

또한 PDF용 선택적 '비주얼 모드'도 제공되며, 로컬 비전 모델을 사용해 그림과 표에 검색 가능한 캡션을 생성합니다.

대상 사용자

• 기술 문서나 사내 논문을 검색해야 하는 개발자 및 연구자.
• Claude Code, Cursor, Codex와 같은 AI 코딩 도구 사용자 중, Model Context Protocol(MCP)를 통해 로컬 문서 검색을 통합하고자 하는 사용자.
• 민감한 문서를 호스팅된 임베딩 서비스에 전송할 수 없는 개인정보 보호에 신경 쓰는 사용자.

주요 특징

• 완전히 로컬: API 키, Docker, 외부 데이터베이스 필요 없음. 초기 모델 다운로드 후 오프라인으로 작동 가능.
• 하이브리드 검색: 의미 기반 검색과 키워드 매칭을 결합해 기술적 정확도 향상.
• MCP 통합: MCP 서버로 작동하여 AI 에이전트가 문서를 직접 동기화, 인제스트, 검색할 수 있음.
• 세마틱 청킹: 고정 문자 수가 아닌 주제 경계에서 문서를 분할.
• 비주얼 PDF 인덱싱: 선택적 로컬 VLM 지원으로 PDF 그림에 검색 가능한 캡션 생성.