FalkorDB/GraphRAG-SDK

Build fast and accurate GenAI apps with GraphRAG SDK at scale 🌟

What it solves

GraphRAG-SDK 解决了标准 Vector RAG 的局限性，后者在生产环境中常因仅匹配相似文本块而失效。它提供了一个框架，可构建能够在多个文档之间遍历实体之间复杂关系的 GraphRAG 系统，从而在处理复杂查询时提高准确性，并为每个答案提供清晰的引用。

How it works

SDK 使用 FalkorDB 作为底层图数据库。过程遵循特定流水线：

  1. Ingestion：使用 LLM 从原始文本或 PDF 中提取实体和关系，解析并去重，然后进行嵌入和索引。
  2. Retrieval：结合向量搜索、全文搜索和图遍历（关系扩展）来查找相关信息。还支持实验性的 text‑to‑Cypher 查询。
  3. Generation：将检索到的上下文传递给 LLM 生成最终答案，并通过 provenance trail（MENTIONS 边）将答案链接回原始来源块。

Who it’s for

它面向构建生产级 AI 应用的开发者，这类应用需要在大型、多文档数据集上保持高准确率，且实体之间的关系理解至关重要。

Highlights

  • High Accuracy：在 GraphRAG‑Bench（Novel 与 Medical 数据集）上优于多个其他 GraphRAG 系统。
  • Incremental Updates：支持更新、删除或添加单个文档而无需重建整个图，具备崩溃安全的幂等更新。
  • Multi-tenant Support：通过图名称提供租户隔离。
  • Flexible Schema：允许用户定义自定义实体类型和关系类型，以指导抽取过程。
  • Modular Design：支持可插拔的 LLM 和嵌入提供者，接口简洁（例如 LiteLLM）。