NirDiamant/Controllable-RAG-Agent
This repository provides an advanced Retrieval-Augmented Generation (RAG) solution for complex question answering. It uses sophisticated graph based algorithm to handle the tasks.
해결하는 문제
이 프로젝트는 단순한 의미적 유사성에 의존하는 기존 RAG 시스템의 한계를 해결합니다. 이러한 시스템은 종종 복잡한 다단계 질문에 답하지 못합니다. 본 프로젝트는 복수 단계 추론과 적응형 계획을 수행할 수 있는 제어 가능한 자율 에이전트를 제공하며, 제공된 데이터에만 근거하여 환각을 엄격히 방지하면서 사용자 정의 데이터셋에서 비틀림 없는 질문에 답할 수 있습니다.
작동 방식
에이전트는 다단계 프로세스를 조율하기 위한 '뇌'로 결정론적 그래프를 사용합니다.
- 데이터 처리: PDF가 로드되고 챕터로 분할되며, 정제되고 요약됩니다. 원본 콘텐츠, 챕터 요약, 특정 인용문은 모두 벡터 저장소에 인코딩됩니다.
- 질문 익명화: LLM의 편향과 사전 학습된 지식을 피하기 위해 에이전트는 질문 내의 명명된 엔티티를 변수로 대체하여 일반적인 실행 계획을 생성합니다.
- 작업 분해: 익명화된 계획이 복원되고, 구체적으로 검색 가능하거나 답변 가능한 작업으로 분해됩니다.
- 실행 및 정제: 각 작업에 대해 에이전트는 벡터 저장소에서 정보를 검색할지(정확성을 위해 결과를 정제할지) 또는 체인 오브 써드 추론을 사용해 응답을 생성할지 결정합니다.
- 검증 및 재계획: 생성된 콘텐츠가 원본 맥락에 근거했는지 검증합니다. 검증에 실패하면 계획을 업데이트하고 프로세스를 반복합니다.
- 최종 답변: 누적된 맥락과 체인 오브 써드 추론을 사용하여 최종 응답을 생성합니다.
대상 사용자
대규모 문서(예: 책)에 대한 복잡한 추론이 필요하고, 환각을 방지하기 위해 소스 데이터에 엄격히 부합해야 하는 프로덕션 수준의 RAG 시스템을 구축하는 개발자 및 AI 엔지니어.
주요 특징
- 결정론적 그래프 추론: 복잡한 자율 에이전트 행동을 관리하기 위한 구조화된 그래프 사용.
- 적응형 계획: 프로세스 중에 얻은 새로운 정보에 따라 실행 계획을 지속적으로 업데이트.
- 환각 방지: 검증 루프와 근거 확인을 통해 답변이 제공된 데이터에만 기반되도록 보장.
- 엔티티 익명화: 특정 명명된 엔티티가 아닌 변수 기반 계획을 통해 LLM 편향을 방지.
- Ragas 평가: 충실도, 답변 정확도, 맥락 재현률 등의 메트릭을 사용한 통합 품질 평가.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트