SaiAkhil066/CORTEX-AI-SUPER-RAG

해결하는 문제

Cortex RAG는 클라우드 서비스, API 키, 구독 없이 사용자가 문서를 업로드하고 질문할 수 있는 로컬 검색 증강 생성(RAG) 시스템입니다. 기본 RAG의 한계를 극복하기 위해 다층 파이프라인을 구현하여 검색 정확도를 향상시키고 노이즈를 줄이며 투명한 추론을 제공합니다.

작동 방식

시스템은 PDF, DOCX, TXT, MD 파일과 같은 문서를 9단계 파이프라인을 통해 처리합니다:

1. 인덱싱: BM25, FAISS, NetworkX 지식 그래프의 세 가지 별도 인덱스를 생성하며, LLM을 사용해 청크에 주변 컨텍스트를 선택적으로 추가할 수 있습니다.
2. 쿼리 처리: 반복 질문에 대해 즉시 답변을 반환하는 의미적 캐시와 단일 쿼리를 여러 변형으로 확장하여 재현율을 높이는 RAG-Fusion을 사용합니다.
3. 검색 및 정제: 벡터 검색과 그래프 검색 결과를 Reciprocal Rank Fusion (RRF)로 통합하고, 신경망 재랭킹(Cross-Encoder)을 적용해 가장 관련성 높은 문단을 우선순위로 지정하며, 불필요한 청크를 제거하는 Corrective RAG(CRAG)을 사용합니다.
4. 생성: 최종 답변은 Ollama를 통해 로컬 LLM이 생성되며, 모델의 사고 과정을 스트리밍하는 실시간 추론 패널이 제공됩니다.

대상 사용자

개인 정보 보호가 중요한 문서 분석용 로컬 AI 어시스턴트가 필요한 사용자나, 자체 인프라에서 완전히 작동하는 프로덕션 수준의 RAG 시스템을 원하는 조직에게 적합합니다.

주요 특징

• 로컬 우선: Ollama를 사용해 사용자의 기계에서 완전히 작동하여 데이터 프라이버시를 보장하고 클라우드 의존도를 0으로 만듭니다.
• 고급 검색: 벡터 검색, 스파스 검색(BM25), GraphRAG을 결합해 포괄적인 컨텍스트를 제공합니다.
• 고정밀도: 신경망 재랭킹과 CRAG을 사용해 생성 전 노이즈를 필터링합니다.
• 추론 투명성: 모델의 내부 사고 과정을 관찰할 수 있는 실시간 추론 패널이 포함되어 있습니다.
• 유연한 모델 지원: Llama 3.1, Qwen 2.5, Mistral 등 Ollama에서 사용 가능한 모든 모델과 호환됩니다.