SaiAkhil066/CORTEX-AI-SUPER-RAG

CORTEX RAG is an enterprise retrieval and knowledge assistant that helps teams find accurate answers from company data with citations, permission-aware retrieval, and fast deployment

何を解決するか

Cortex RAG は、クラウドサービス、API キー、サブスクリプションに依存せずに、ユーザーがドキュメントをアップロードしてそれについて質問できる、ローカルな検索拡張生成(RAG)システムです。基本的な RAG の制限を克服するために、複数層のパイプラインを実装し、検索精度を向上させ、ノイズを低減し、推論の透明性を提供します。

動作方法

このシステムは、PDF、DOCX、TXT、MD ファイルなどのドキュメントを 9 層のパイプラインで処理します:

  1. インデキシング:BM25、FAISS、および NetworkX 知識グラフの 3 つの別々のインデックスを作成し、LLM を使ってチャンクに周辺コンテキストをオプションで追加できます。
  2. クエリ処理:同じ質問に対して即座に答えを返すための意味的キャッシュと、単一のクエリを複数のバリエーションに拡張して再現率を向上させる RAG-Fusion を使用します。
  3. 検索と精製:ベクトル検索とグラフ検索の結果を Reciprocal Rank Fusion (RRF) で統合し、神経ネットワーク再ランク(Cross-Encoder)で最も関連性の高いパラグラフを優先順位付けし、不要なチャンクを削除する Corrective RAG (CRAG) を適用します。
  4. 生成:最終的な回答は Ollama を通じてローカル LLM によって生成され、モデルの思考プロセスをストリーミングするライブ推論パネルが付属しています。

対象ユーザー

プライベートなローカル AI アシスタントを必要とするユーザー、および自社インフラ上で完全に動作するプロダクションレベルの RAG システムを求める組織に最適です。

特徴

  • ローカル最優先:Ollama を使用してユーザーのマシン上で完全に動作し、データのプライバシーを確保し、クラウド依存をゼロにします。
  • 高度な検索:ベクトル検索、スパース検索(BM25)、および GraphRAG を組み合わせて包括的なコンテキストを提供します。
  • 高精度:神経ネットワーク再ランクと CRAG を使用して、生成前にノイズをフィルタリングします。
  • 推論の透明性:モデルの内部思考プロセスを観察できるライブ推論パネルを備えています。
  • 柔軟なモデル対応:Ollama で利用可能な任意のモデルに対応しており、Llama 3.1、Qwen 2.5、Mistral などもサポートしています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト