OSU-NLP-Group/HippoRAG

[NeurIPS'24] HippoRAG is a novel RAG framework inspired by human long-term memory that enables LLMs to continuously integrate knowledge across external documents. RAG + Knowledge Graphs + Personalized PageRank.

해결하는 문제

HippoRAG 2는 복잡한 다중 홉 추론 및 지속적인 지식 통합을 처리하는 데 있어 표준 RAG(Retrieval-Augmented Generation) 시스템의 한계를 해결합니다. 기존 RAG는 대규모 데이터 세트 전반에 걸쳐 파편화된 정보를 연결하는 데 어려움을 겪는 경우가 많지만, HippoRAG 2는 그래프 기반 메모리 프레임워크를 사용하여 연관성과 의미 파악 능력을 향상시킴으로써 LLM이 인간과 유사한 장기 기억을 가진 것처럼 정보를 더 잘 종합할 수 있도록 합니다.

작동 방식

HippoRAG 2는 입력 문서로부터 구조화된 지식 그래프를 구축하는 메모리 프레임워크로 작동합니다. 표준 벡터 전용 RAG와 달리 엔티티와 관계를 추출하여 지식 그래프를 생성함으로써, 시스템이 다중 홉 검색을 수행할 수 있게 합니다. 즉, 원문에서는 직접적인 관련이 없지만 논리적으로 연결된 사실들을 이어줍니다. 온라인 추론과 오프라인 인덱싱 모두에서 효율적으로 설계되었으며, 다른 그래프 기반 RAG 대안보다 적은 컴퓨팅 자원을 필요로 합니다.

대상 사용자

이 프로젝트는 대규모의 진화하는 지식 베이스에 대해 복잡한 추론을 수행해야 하는 고급 RAG 애플리케이션을 구축하는 개발자와 연구자를 위한 것입니다. 특히 Model Context Protocol (MCP)을 사용하여 AI 에이전트나 애플리케이션에 지속적이고 쿼리 가능한 메모리를 통합해야 하는 경우에 매우 유용합니다.

주요 특징

추론 능력 향상: 다중 홉 검색 및 복잡한 의미 파악 작업에 최적화되어 있습니다.
자원 효율성: GraphRAG나 RAPTOR와 같은 다른 그래프 기반 RAG 방식에 비해 더 가벼운 인덱싱 프로세스를 제공합니다.
MCP 통합: 내장된 Model Context Protocol (MCP) 서버를 포함하여 Claude Desktop이나 Cursor와 같은 도구 내 에이전트의 지속적인 메모리 계층 역할을 할 수 있습니다.
유연한 백엔드: 로컬 Parquet 파일, Qdrant, ChromaDB, Milvus를 포함한 다양한 벡터 저장소 백엔드를 지원합니다.