FalkorDB/GraphRAG-SDK

Build fast and accurate GenAI apps with GraphRAG SDK at scale 🌟

What it solves

GraphRAG-SDK는 유사 텍스트 청크만 매칭하는 표준 Vector RAG의 한계를 해결합니다. 여러 문서에 걸친 엔터티 간 복잡한 관계를 탐색할 수 있는 GraphRAG 시스템을 구축하기 위한 프레임워크를 제공하여 복잡한 쿼리에서 높은 정확도를 달성하고 모든 답변에 명확한 인용을 제공합니다.

How it works

SDK는 FalkorDB를 기본 그래프 데이터베이스로 사용합니다. 프로세스는 다음 파이프라인을 따릅니다:

  1. Ingestion: LLM을 사용해 원시 텍스트 또는 PDF에서 엔터티와 관계를 추출하고, 이를 해결·중복 제거한 뒤 임베딩 및 인덱싱합니다.
  2. Retrieval: 벡터 검색, 전체 텍스트 검색, 그래프 탐색(관계 확장)을 결합해 관련 정보를 찾습니다. 실험적인 text‑to‑Cypher 쿼리도 지원합니다.
  3. Generation: 검색된 컨텍스트를 LLM에 전달해 최종 답변을 생성하고, provenance trail(MENTIONS 엣지)으로 답변을 원본 소스 청크와 연결합니다.

Who it’s for

대규모 멀티문서 데이터셋에서 엔터티 간 관계 이해가 중요한 고정밀 AI 애플리케이션을 프로덕션 수준으로 구축하려는 개발자를 위한 도구입니다.

Highlights

  • High Accuracy: GraphRAG‑Bench(Novel 및 Medical 데이터셋)에서 여러 다른 GraphRAG 시스템보다 우수한 성능을 보입니다.
  • Incremental Updates: 전체 그래프를 재구축하지 않고도 개별 문서를 업데이트, 삭제, 추가할 수 있으며, 크래시 안전한 멱등 업데이트를 제공합니다.
  • Multi-tenant Support: 그래프 이름을 통해 테넌트별 격리를 제공합니다.
  • Flexible Schema: 사용자가 커스텀 엔터티 타입과 관계 타입을 정의하여 추출 과정을 안내할 수 있습니다.
  • Modular Design: 깨끗한 인터페이스(예: LiteLLM)를 통해 플러그인 가능한 LLM 및 임베더 제공자를 지원합니다.