Bessouat40/RAGLight

RAGLight is a modular framework for Retrieval-Augmented Generation (RAG). It makes it easy to plug in different LLMs, embeddings, and vector stores, and now includes seamless MCP integration to connect external tools and data sources.

What it solves

RAGLight は、Retrieval-Augmented Generation (RAG) の実装を簡素化するために設計された、軽量でモジュール式の Python ライブラリです。ドキュメントの検索と自然言語推論を組み合わせる統一されたワークフローを提供することで、コンテキストを考慮した AI ソリューションの構築の複雑さを排除し、ユーザーがさまざまな LLM を使用して、自身のドキュメント (PDFs, TXT, code, など) とチャットできるようにします。

How it works

このライブラリは、ユーザーが LLM プロバイダー、埋め込みモデル、およびベクトルストアを簡単に切り替えられるモジュール式アーキテクチャを提供します。ローカルフォルダや GitHub リポジトリからデータを処理し、それらをベクトルデータベースにインデックス化し、検索パイプラインを使用して、関連するコンテキストを LLM に提供して回答を生成します。また、ハイブリッド検索 (BM25 + Semantic) や、マルチターン会話のためのクエリ再構成などの高度な検索技術もサポートしています。

Who it’s for

重いフレームワークのオーバーヘッドなしで、柔軟でセットアップが簡単な RAG パイプラインを構築したい AI アプリケーション開発者向けです。また、インタラクティブな CLI wizard や、組み込みの Streamlit chat UI を備えたデプロイ可能な REST API を通じて、非プログラマーにも適しています。

Highlights

  • LLM Agnostic: Ollama, OpenAI, Google Gemini, Mistral, AWS Bedrock, vLLM, および LMStudio を含む幅広いプロバイダーをサポートしています。
  • Hybrid Search: キーワードベースの BM25 検索と、Reciprocal Rank Fusion (RRF) を使用した高密度ベクトル検索を組み合わせます。
  • Agentic RAG: RAG のパフォーマンスを向上させるためのエージェントベースのパイプラインが含まれています。
  • MCP Integration: MCP サーバーを介して、コード実行やデータベースアクセスなどの外部ツール機能を追加できます。
  • Flexible Ingestion: ローカルディレクトリ (カスタマイズ可能な無視フォルダ付き) および GitHub リポジトリからのインデックス作成をサポートしています。
  • Observability: Langfuse を介した統合されたエンドツーエンドのトレーシングを提供します。
  • Deployment Ready: raglight serve コマンドにより、FastAPI REST API としてデプロイでき、オプションで Streamlit UI を提供します。