mudler/LocalRecall

해결하는 문제

LocalRecall은 AI 에이전트와 챗봇을 위한 가벼우면서도 오프라인으로 작동하는 지식 기반 및 파일 관리 방법을 제공합니다. GPU, 인터넷 연결, 클라우드 서비스 없이도 장기 및 단기 기억 검색을 가능하게 하며, 지식 관리를 위한 일반적인 추상화 계층을 제공합니다.

작동 방식

RESTful API로 작동하며 벡터 데이터베이스와 연동하여 정보를 저장하고 검색합니다. 주로 두 가지 주요 저장 엔진을 지원합니다: Chromem(로컬 파일 기반 저장소)과 PostgreSQL(pgvector 및 pgvectorscale를 사용하여 프로덕션 수준의 하이브리드 검색을 지원). 마크다운, 일반 텍스트, PDF 파일뿐만 아니라 웹 페이지, 사이트맵, Git 리포지토리와 같은 외부 소스도 인제스트할 수 있으며, 자동으로 모니터링하고 업데이트합니다.

대상 사용자

데이터를 완전히 로컬에 유지하고 클라우드 의존성을 피하고 싶은 AI 에이전트, 챗봇, RAG 기반 애플리케이션 개발자에게 적합합니다.

주요 특징

• 완전 로컬: 클라우드 서비스나 GPU 요구 없이 오프라인에서 작동.
• 하이브리드 검색: PostgreSQL을 통해 BM25 키워드 검색과 벡터 유사도 검색을 결합 가능.
• 다양한 인제스트: 로컬 파일(PDF, TXT, MD)과 외부 소스(Web, Git, 사이트맵)를 모두 처리.
• 유연한 저장소: 단순한 파일 기반 저장소(Chromem) 또는 확장 가능한 프로덕션 데이터베이스(PostgreSQL) 중 선택 가능.
• MCP 통합: AI 도구를 통해 더 쉽게 제어할 수 있도록 Model Context Protocol(MCP)과 호환.