SaiAkhil066/CORTEX-AI-SUPER-RAG
CORTEX RAG is an enterprise retrieval and knowledge assistant that helps teams find accurate answers from company data with citations, permission-aware retrieval, and fast deployment
解决的问题
Cortex RAG 是一个本地检索增强生成(RAG)系统,允许用户上传文档并提问,而无需依赖云服务、API 密钥或订阅。它通过实现多层管道来克服基础 RAG 的局限性,提升检索准确性,减少噪声,并提供透明的推理过程。
工作原理
该系统通过 9 层管道处理文档(PDF、DOCX、TXT、MD):
- 索引构建:创建三个独立索引(BM25、FAISS 和 NetworkX 知识图谱),并可选择使用 LLM 为文本块添加周围上下文。
- 查询处理:使用语义缓存对重复问题即时返回答案,并通过 RAG-Fusion 将单个查询扩展为多个变体以提高召回率。
- 检索与精炼:使用 Reciprocal Rank Fusion (RRF) 合并向量搜索和图搜索结果,应用神经重排序器(Cross-Encoder)优先选择最相关段落,并使用 Corrective RAG (CRAG) 剔除无关块。
- 生成:最终答案由本地 LLM 通过 Ollama 生成,并配有实时推理面板,可流式显示模型的思维链过程。
适用人群
适用于需要私有本地 AI 助手进行文档分析的用户,以及希望在自有基础设施上运行生产级 RAG 系统的组织。
核心亮点
- 本地优先:完全在用户机器上使用 Ollama 运行,确保数据隐私且零云依赖。
- 高级检索:结合向量搜索、稀疏检索(BM25)和 GraphRAG,提供全面上下文。
- 高精度:采用神经重排序和 CRAG 在生成前过滤噪声。
- 推理透明:包含实时推理面板,可观察模型内部思考过程。
- 灵活模型支持:兼容任何 Ollama 模型,包括 Llama 3.1、Qwen 2.5 和 Mistral。
相关
- 项目
- 项目
- 项目
- 项目