SaiAkhil066/CORTEX-AI-SUPER-RAG

CORTEX RAG is an enterprise retrieval and knowledge assistant that helps teams find accurate answers from company data with citations, permission-aware retrieval, and fast deployment

解决的问题

Cortex RAG 是一个本地检索增强生成(RAG)系统,允许用户上传文档并提问,而无需依赖云服务、API 密钥或订阅。它通过实现多层管道来克服基础 RAG 的局限性,提升检索准确性,减少噪声,并提供透明的推理过程。

工作原理

该系统通过 9 层管道处理文档(PDF、DOCX、TXT、MD):

  1. 索引构建:创建三个独立索引(BM25、FAISS 和 NetworkX 知识图谱),并可选择使用 LLM 为文本块添加周围上下文。
  2. 查询处理:使用语义缓存对重复问题即时返回答案,并通过 RAG-Fusion 将单个查询扩展为多个变体以提高召回率。
  3. 检索与精炼:使用 Reciprocal Rank Fusion (RRF) 合并向量搜索和图搜索结果,应用神经重排序器(Cross-Encoder)优先选择最相关段落,并使用 Corrective RAG (CRAG) 剔除无关块。
  4. 生成:最终答案由本地 LLM 通过 Ollama 生成,并配有实时推理面板,可流式显示模型的思维链过程。

适用人群

适用于需要私有本地 AI 助手进行文档分析的用户,以及希望在自有基础设施上运行生产级 RAG 系统的组织。

核心亮点

  • 本地优先:完全在用户机器上使用 Ollama 运行,确保数据隐私且零云依赖。
  • 高级检索:结合向量搜索、稀疏检索(BM25)和 GraphRAG,提供全面上下文。
  • 高精度:采用神经重排序和 CRAG 在生成前过滤噪声。
  • 推理透明:包含实时推理面板,可观察模型内部思考过程。
  • 灵活模型支持:兼容任何 Ollama 模型,包括 Llama 3.1、Qwen 2.5 和 Mistral。

相关

  • 项目
  • 项目
  • 项目
  • 项目