StarTrail-org/LEANN

해결하는 문제

LEANN은 개인용 하드웨어에서 고성능 검색 보강 생성(RAG)을 가능하게 하는 가벼운 벡터 데이터베이스입니다. 기존 벡터 데이터베이스의 과도한 저장 공간 요구 문제를 해결하여, 검색 정확도를 희생하지 않고 노트북에서 수백만 개의 문서를 인덱싱할 수 있습니다.

작동 방식

LEANN은 고차수 보존 프리닝을 활용한 그래프 기반 선택적 재계산 기술을 사용합니다. 모든 데이터에 대해 모든 임베딩을 저장하는 대신, 필요할 때마다 임베딩을 즉시 계산합니다. 또한 스마트한 그래프 프리닝과 압축 희소 행렬(CSR) 형식을 사용하여 그래프 자체의 저장 공간 오버헤드를 최소화합니다.

대상 사용자

클라우드 서비스나 고가의 하드웨어에 의존하지 않고, 파일 시스템, 이메일, 브라우저 기록, 채팅 로그(WeChat, iMessage), 에이전트 메모리(ChatGPT, Claude) 등 개인 데이터를 의미 검색할 수 있는 사적인 로컬 AI 어시스턴트를 만들고 싶은 개인을 위한 것입니다.

주요 특징

• 극도의 저장 공간 효율성: 기존 벡터 DB 대비 최대 97% 저장 공간 절감 (예: 6000만 개의 청크를 6GB로, 기존 201GB)
• 개인정보 최우선: 로컬 머신에서 완전히 작동하여 데이터가 디바이스 외부로 나가지 않습니다.
• 광범위한 통합: 다양한 데이터 소스를 지원하며, Claude Code용 의미 검색 MCP 서비스로 완전 호환됩니다.
• 유연한 백엔드: Ollama, LM Studio와 같은 로컬 엔진과 클라우드 API를 포함한 여러 임베딩 및 LLM 제공업체를 지원합니다.