FalkorDB/GraphRAG-SDK

Build fast and accurate GenAI apps with GraphRAG SDK at scale 🌟

What it solves

GraphRAG-SDK 解決了標準 Vector RAG 的限制，後者在生產環境中常因僅匹配相似文字片段而失效。它提供了一個框架，可建構能在多文件之間遍歷實體之間複雜關係的 GraphRAG 系統，從而在處理複雜查詢時提升準確度，並為每個答案提供清晰的引用。

How it works

SDK 以 FalkorDB 作為底層圖形資料庫。流程遵循特定管線：

  1. Ingestion：使用 LLM 從原始文字或 PDF 中抽取實體與關係，解析並去除重複，接著進行嵌入與索引。
  2. Retrieval：結合向量搜尋、全文搜尋與圖遍歷（關係擴展）以找出相關資訊。亦支援實驗性的 text‑to‑Cypher 查詢。
  3. Generation：將檢索到的上下文傳遞給 LLM 產生最終答案，並以 provenance trail（MENTIONS 邊）將答案連結回原始來源片段。

Who it’s for

此工具設計給需要在大型、多文件資料集上建置生產等級 AI 應用的開發者，特別是實體關係理解至關重要的情境。

Highlights

  • High Accuracy：在 GraphRAG‑Bench（Novel 與 Medical 資料集）上優於多個其他 GraphRAG 系統。
  • Incremental Updates：支援更新、刪除或新增單一文件，而無需重建整個圖，具備防崩潰的冪等更新功能。
  • Multi-tenant Support：透過圖名稱提供每個租戶的隔離。
  • Flexible Schema：允許使用者自訂實體類型與關係類型，以指導抽取流程。
  • Modular Design：支援可插拔的 LLM 與嵌入提供者，介面簡潔（例如 LiteLLM）。