OSU-NLP-Group/HippoRAG

[NeurIPS'24] HippoRAG is a novel RAG framework inspired by human long-term memory that enables LLMs to continuously integrate knowledge across external documents. RAG + Knowledge Graphs + Personalized PageRank.

What it solves

HippoRAG 2는 표준 검색 증강 생성(RAG) 시스템의 한계를 극복하기 위해 설계되었으며, 특히 멀티홉 검색(연관성) 및 대규모의 복잡한 컨텍스트 통합(의미 형성) 능력을 개선합니다. LLM에 인간의 장기 기억을 모방하는 비매개변수적 지속 학습 능력을 제공하는 것을 목표로 합니다.

How it works

HippoRAG 2는 새로운 지식 내의 연결을 인식하고 활용하는 메모리 프레임워크를 구현합니다. 오프라인 인덱싱 프로세스를 사용하여 문서로부터 지식 그래프를 구축하며, 이는 다른 그래프 기반 RAG 솔루션보다 자원 효율적입니다. 온라인 프로세스 동안에는 이러한 연결을 따라 정보를 검색하여 복잡한 쿼리의 정확도를 높입니다.

Who it’s for

이 프로젝트는 복잡하고 다단계 추론 작업에서 LLM이 더 나은 성능을 발성하고, 단순한 사실적 쿼리에 대한 성능을 희생하지 않으면서 대량의 정보를 통합해야 하는 고급 RAG 시스템을 구축하는 개발자 및 연구자를 위한 것입니다.

Highlights

  • Improved Associativity: 표준 RAG와 비교하여 멀티홉 검색 능력을 향상시킵니다.
  • Sense-Making: 대규모 및 복잡한 컨텍스트의 더 나은 통합.
  • Resource Efficiency: GraphRAG 또는 RAPTOR와 같은 대안보다 오프라인 인덱싱에 더 적은 자원을 사용합니다.
  • Flexible Deployment: OpenAI, Amazon Bedrock, OrcaRouter 및 로컬 vLLM 배포를 포함한 광범위한 제공업체를 지원합니다.
  • Vector Store Support: Parquet files, Qdrant, ChromaDB, 및 Milvus와 호환됩니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트