bibinprathap/VeritasGraph

VeritasGraph – 관리되는 온프레미스 GraphRAG 및 에이전트 프레임워크

개요

• 기존의 벡터 기반 검색 증강 생성(RAG)을 그래프+트리 검색 접근 방식으로 대체하는 오픈소스 Python 패키지입니다. 문서에서 지식 그래프를 구축하고 각 노드/엣지가 어떤 문서의 어떤 청크에서 생성되었는지에 대한 출처(provenance)를 저장하며, LLM 기반 에이전트가 해당 그래프에서 추론할 수 있도록 합니다.
• 프라이버시 우선 배포를 위해 설계되었습니다: 로컬 머신(Ollama 경유)에서 완전히 실행하거나 컨테이너화된 프로덕션 스택(Docker+Neo4j)에서 실행할 수 있습니다. 클라우드 LLM API를 명시적으로 사용하지 않는 한 데이터가 사외로 유출되지 않습니다.

주요 기능

기능	작동 방식
GraphRAG 수집	PDF, 텍스트 또는 기타 소스를 파싱하여 엔티티/관계를 추출하고, 원본 문서 청크를 가리키는 증거 엣지와 함께 Neo4j 스타일 그래프에 기록합니다.
트리+그래프 검색	계층적 페이지 인덱스 탐색(트리)과 의미적 그래프 링크를 결합하여 결정적 다중 홉 추론과 소스의 정확한 인용을 가능하게 합니다.
관리되는 에이전트	내장된 "Studio" UI를 통해 에이전트 생성, 가드레일(PII 편집, 정책 차단), 메모리, 도구 카탈로그를 설정할 수 있습니다. 오케스트레이션 파이프라인은 턴마다 완전히 관찰 가능합니다.
MCP 서버	Model Context Protocol(JSON-RPC)을 통해 엔진을 노출하여 IDE 기반 어시스턴트(Claude Desktop, Cursor, VS Code 등)가 외부 네트워크 트래픽 없이 그래프를 조회할 수 있도록 합니다.
모드	lite(클라우드 LLM, 빠른 데모), local(Ollama 모델, 오프라인), full(프로덕션용 Docker+Neo4j).
확장 가능한 예제	의료 임상 노트 KG, 건설 도면 물량 산출, 지자체 사고 보고 챗봇 데모가 포함되어 있으며, 비전 모델, CV 검증, 사용자 지정 도구를 플러그인하는 방법을 보여줍니다.

일반적인 워크플로우

1. 수집 – veritasgraph ingest <doc>(또는 Studio UI 실행)으로 출처가 있는 KG를 생성합니다.
2. 쿼리 – veritasgraph query "..."는 다중 홉 답변과 [doc3#chunk12]와 같은 인용을 반환합니다.
3. 에이전트 – Studio에서 에이전트를 정의하고 도구(예: HTTP 호출)를 연결하고 가드레일을 설정한 후 채팅합니다. UI는 각 단계(가드레일 → 메모리 → 그래프 조회 → 도구 호출 → 응답)를 시각화합니다.
4. 배포 – MCP 서버(python -m veritasgraph_mcp)를 실행하고 MCP 호환 IDE 어시스턴트를 해당 서버에 연결합니다.

중요한 이유

• 설계에 의한 귀속 – 출처가 쓰기 시점에 저장되어 환각된 인용을 제거합니다.
• 결정적 검색 – 그래프 순회는 확률적 벡터 유사성과 달리 매 실행마다 동일한 증거 추적을 생성합니다.
• 명시적 기권 – 그래프에 필요한 엣지가 없는 경우 에이전트는 추측하는 대신 *"증거 불충분"*이라고 응답할 수 있습니다.
• 엔터프라이즈 준비 – 온프레미스, 감사 로그, PII 편집, 역할 기반 액세스 제어가 내장되어 있습니다.

시작하기

pip install veritasgraph
veritasgraph demo --mode=lite   # 빠른 클라우드 API 데모
# 또는 완전한 오프라인 사용을 위해
veritasgraph demo --mode=local --model=llama3.2

프로덕션 스택은 리포지토리의 Docker/Neo4j 지침을 참조하세요.

리소스

• README에 링크된 라이브 데모 사이트, Studio UI, Colab 노트북.
• PDF 가이드 Build Governed AI Agents On-Prem(아키텍처 및 배포 워크스루).
• 그래프 추론 시각화 및 비전 RAG 확장을 보여주는 YouTube 발표.

---

결론: VeritasGraph는 원시 벡터 유사성이 아닌 구조화된 지식 그래프에서 추론하고 완전한 감사 가능성과 제로 트러스트 통합 옵션을 갖춘 신뢰할 수 있는 온프레미스 AI 에이전트를 구축하기 위한 진정한 MIT 라이선스 프레임워크입니다.