OSU-NLP-Group/HippoRAG
[NeurIPS'24] HippoRAG is a novel RAG framework inspired by human long-term memory that enables LLMs to continuously integrate knowledge across external documents. RAG + Knowledge Graphs + Personalized PageRank.
What it solves
HippoRAG 2 是為了克服標準檢索增強生成(RAG)系統的限制而設計的,特別是提升其處理多跳檢索(關聯性)與整合大型且複雜上下文(意義建構)的能力。其目標是為 LLM 提供一種非參數化的持續學習能力,以模擬人類的長期記憶。
How it works
HippoRAG 2 實作了一個能識別並利用新知識中連接關係的記憶框架。它使用離線索引程序來從文件中建立知識圖譜,這比其他基於圖譜的 RAG 解決方案更具資源效率。在線上程序中,它透過遵循這些連接來檢索資訊,以提升複雜查詢的準確性。
Who it’s for
此專案是為開發者與研究人員設計的,他們正在構建進階的 RAG 系統,需要其 LLM 在複雜、多步驟推理任務中表現更佳,並能在不犧牲簡單事實查詢性能的同時,整合大量資訊。
Highlights
- Improved Associativity: 提升了與標準 RAG 相比的多跳檢索能力。
- Sense-Making: 更好的大型且複雜上下文整合。
- Resource Efficiency: 使用比 GraphRAG 或 RAPTOR 等替代方案更少的離線索引資源。
- Flexible Deployment: 支援廣泛的提供商,包括 OpenAI, Amazon Bedrock, OrcaRouter, 以及本地 vLLM 部署。
- Vector Store Support: 相容於 Parquet files, Qdrant, ChromaDB, 以及 Milvus。
相關
- 專案
- 專案
- 專案
- 專案
- 專案