OSU-NLP-Group/HippoRAG

[NeurIPS'24] HippoRAG is a novel RAG framework inspired by human long-term memory that enables LLMs to continuously integrate knowledge across external documents. RAG + Knowledge Graphs + Personalized PageRank.

What it solves

HippoRAG 2 是為了克服標準檢索增強生成(RAG)系統的限制而設計的,特別是提升其處理多跳檢索(關聯性)與整合大型且複雜上下文(意義建構)的能力。其目標是為 LLM 提供一種非參數化的持續學習能力,以模擬人類的長期記憶。

How it works

HippoRAG 2 實作了一個能識別並利用新知識中連接關係的記憶框架。它使用離線索引程序來從文件中建立知識圖譜,這比其他基於圖譜的 RAG 解決方案更具資源效率。在線上程序中,它透過遵循這些連接來檢索資訊,以提升複雜查詢的準確性。

Who it’s for

此專案是為開發者與研究人員設計的,他們正在構建進階的 RAG 系統,需要其 LLM 在複雜、多步驟推理任務中表現更佳,並能在不犧牲簡單事實查詢性能的同時,整合大量資訊。

Highlights

  • Improved Associativity: 提升了與標準 RAG 相比的多跳檢索能力。
  • Sense-Making: 更好的大型且複雜上下文整合。
  • Resource Efficiency: 使用比 GraphRAG 或 RAPTOR 等替代方案更少的離線索引資源。
  • Flexible Deployment: 支援廣泛的提供商,包括 OpenAI, Amazon Bedrock, OrcaRouter, 以及本地 vLLM 部署。
  • Vector Store Support: 相容於 Parquet files, Qdrant, ChromaDB, 以及 Milvus。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案