RManLuo/gfm-rag

GFM‑RAG: 검색 증강 생성을 위한 그래프 기반 기초 모델

무엇인가요 – GFM‑RAG은 대규모 언어 모델(LLM) 생성을 위한 그래프 기반 검색 파이프라인을 구축할 수 있게 해주는 파이썬 라이브러리입니다. 먼저 문서 컬렉션(또는 기존 지식 그래프)을 그래프 인덱스(노드, 관계, 엣지)로 변환합니다. 사전 훈련된 그래프 기초 모델(GFM) – 수백 개의 지식 그래프에서 훈련된 그래프 신경망 – 은 이 인덱스를 기반으로 사용자 쿼리에 가장 관련성이 높은 문서를 검색합니다. 검색된 문장 조각은 어떤 LLM에도 입력되어 답변을 생성합니다.

왜 중요한가요 – 기존 RAG 시스템은 키워드 또는 밀도 벡터 유사성 기반으로 문서를 검색하지만, 다단계 추론과 구조적 지식 처리에 어려움을 겪습니다. GFM‑RAG는 단일 단계에서 관계(예: 대통령 → 국가 → 수도)를 따라가는 그래프 신경망 기반 검색기를 추가하여 검색의 정확도와 해석 가능성을 높입니다.

주요 기능 (저장소에 나열된 내용)

그래프 기초 모델(GFM) – 그래프 인덱스를 기반으로 추론할 수 있는 GNN 기반 검색기.
일반화된 그래프 인덱스 – 지식 그래프, 문서 그래프, 계층적 그래프를 모두 지원하며, 세 개의 CSV 파일(nodes.csv, relations.csv, edges.csv)로 표현됩니다.
효율성 – 다단계 추론이 단일 검색 호출로 수행됩니다.
일반화 가능성 – 사전 훈련된 GFM은 새로운 데이터셋에서 즉시 작동하며, 추가 훈련이 필요 없습니다.
이식 가능성 – 자체 데이터로 검색기를 추가 훈련하여 도메인 성능을 향상시킬 수 있습니다.
에이전트 친화성 – 검색 단계를 요구하는 어떤 에이전트 프레임워크와도 호환됩니다.
해석 가능성 – 검색된 그래프 경로를 시각화하여 문서가 선택된 이유를 확인할 수 있습니다.

빠른 시작 개요

설치 (Python 3.12, CUDA 12+):

conda create -n gfmrag python=3.12
conda activate gfmrag
conda install cuda-toolkit -c nvidia/label/cuda-12.6.3
pip install gfmrag

두 가지 진입점:
- 경로 A – 원시 문서 – documents.json (키/값 쌍)를 제공하고 GFMRetriever.from_index가 그래프를 자동으로 생성하도록 합니다.
- 경로 B – 사전 구축된 그래프 – nodes.csv, relations.csv, edges.csv (옵션으로 test.json)를 processed/stage1/ 폴더에 넣으면 라이브러리가 직접 로드합니다.

검색:

from gfmrag import GFMRetriever
retriever = GFMRetriever.from_index(
    data_dir="./data",
    data_name="toy_raw",
    model_path="rmanluo/G-reasoner-34M",
)
results = retriever.retrieve("프랑스의 대통령은 누구인가요?", top_k=5)
print(results["document"])

이 호출은 관련성 점수와 함께 문서 ID 목록을 반환합니다.

추가 훈련

train.json을 준비하세요. 쿼리-문서 쌍과 선택적 시작/목표 노드 주석(README 예제 참조)을 포함합니다.
제공된 Hydra 설정 파일(gfm_reasoner/sft_training.yaml)을 편집합니다.

하나 또는 여러 GPU에서 훈련을 실행합니다:

torchrun --nproc_per_node=4 -m gfmrag.workflow.sft_training --config-path config/gfm_reasoner

코드는 Hugging Face에서 사전 훈련된 체크포인트(GFM‑RAG‑8M 또는 G‑reasoner‑34M)를 자동으로 다운로드합니다.

GFM‑RAG을 사용할 시기

시나리오	왜 GFM‑RAG이 도움이 되는가
지식 집약형 QA (예: 기업 문서, 과학 문헌)	그래프 기반 검색은 단순 벡터 검색이 놓치는 엔티티 간 관계를 포착합니다.
다단계 추론 (예: "X를 인수한 회사를 설립한 사람은 누구인가요?")	단일 단계 GNN 검색으로 그래프 내 여러 단계를 탐색할 수 있습니다.
설명 가능한 AI	검색된 그래프 경로를 시각화하여 추론 체인을 보여줄 수 있습니다.
저자원 도메인	사전 훈련된 GFM은 추가 훈련 없이 작동하므로 데이터 수집 노력이 절감됩니다.
사용자 정의 지식 그래프	자체 `nodes/relations/edges` CSV 파일을 제공하고 인덱싱 단계를 건너뛸 수 있습니다.

생태계 및 자원

프로젝트 페이지: https://rmanluo.github.io/gfm-rag/
논문: GFM‑RAG (NeurIPS 2025) 및 G‑reasoner (ICLR 2026).
Hugging Face 모델: rmanluo/GFM-RAG-8M, rmanluo/G-reasoner-34M.
관련 오픈소스 작업: ULTRA (기초 GNN), HippoRAG (KG 구축), Microsoft GraphRAG (디자인 영감).

요약

GFM‑RAG은 문서 컬렉션을 그래프로 변환한 후, 사전 훈련된 그래프 신경망 기반 검색기를 사용하여 LLM 생성에 가장 관련성이 높은 조각을 검색합니다. 빠르고 새로운 데이터셋에서 즉시 사용 가능하며, 도메인 특화 성능을 위해 추가 훈련이 가능합니다.