rag-web-ui/rag-web-ui

RAG Web UI is an intelligent dialogue system based on RAG (Retrieval-Augmented Generation) technology.

What it solves

RAG Web UI は、プライベートナレッジベースに基づくインテリジェントな Q&A サービスを構築するための完全なシステムを提供します。大規模言語モデル（LLM）が、モデルの一般的な学習データだけに依存せず、ユーザーが提供した特定のドキュメントに根拠を置いた正確で信頼できる回答を提供できるようにする問題を解決します。

How it works

システムは Retrieval-Augmented Generation（RAG）パイプラインを使用します：

  1. Document Ingestion：ユーザーはドキュメント（PDF、DOCX、Markdown、Text）をアップロードし、これらは MinIO に保存されます。その後、システムは非同期でテキストを抽出し、チャンクに分割し、埋め込みサービスを使ってこれらのチャンクをベクトルに変換します。
  2. Storage：これらのベクトルはベクトルデータベース（ChromaDB または Qdrant）に保存されます。
  3. Query Process：ユーザーが質問すると、システムはクエリを埋め込み、ベクトルデータベースから最も関連性の高いドキュメントチャンクを取得し、Cross‑Encoder で再ランク付けし、組み立てたコンテキストを LLM に渡して最終的な応答を生成します。
  4. Integration：OpenAI、DeepSeek、MiniMax、Ollama 経由のローカルモデルなど、さまざまな LLM プロバイダーをサポートし、外部アクセス用の OpenAPI インターフェースを提供します。

Who it’s for

このプロジェクトは、ユーザーフレンドリーなウェブインターフェースを備えたプライベートなドキュメントベースの AI チャットシステムを導入したいユーザー、そして RAG アーキテクチャのリファレンス実装を探している開発者向けに設計されています。

Highlights

  • Flexible LLM Support：クラウドサービス（OpenAI、DeepSeek、MiniMax）とローカルデプロイ（Ollama）に対応。
  • Multi-Format Support：PDF、DOCX、Markdown、Text ファイルを扱えます。
  • Vector DB Choice：Factory パターンで ChromaDB と Qdrant の両方をサポート。
  • Full-Stack Architecture：FastAPI バックエンド、Next.js 14 フロントエンド、MinIO を組み合わせた分散オブジェクトストレージ。
  • Citations：会話中に参照引用をサポートし、回答の透明性を確保します。