SensAI-PT/RAGMeUp

Generic rag framework to apply the power of LLMs on any given dataset

何を解決するか

RAG Me Up は、検索拡張生成(RAG)アプリケーションの開発を迅速化するためのモジュール型フレームワークです。繰り返しのボイラープレートコードを書く必要がなく、開発者はコアのRAGロジックとカスタマイズに集中できます。

動作方法

このプロジェクトは、独自のチャンカー、ベクトルストア、リトリーバーを統合できるプラグアンドプレイアーキテクチャを提供します。Docker Composeでデプロイされ、React UI、Node.js APIサーバー、Python RAGサーバーを備えています。パフォーマンス向上のため、「ハイブリッドモード」をサポートしており、Pythonサーバーをホストマシン上で実行することで、GPU/CUDAアクセラレーションを活用して埋め込みや推論を高速化できます。

対象ユーザー

ゼロから始めるのではなく、迅速にRAGアプリケーションを構築・プロトタイピングしたい開発者、また大規模な環境向けに拡張性があるプロダクション対応フレームワークが必要なユーザー。

特徴

  • カスタムチャンカー、ベクトルストア、リトリーバーに対応するモジュール型設計。
  • DockerによるフルデプロイまたはGPU対応ハイブリッドモードを含む包括的なデプロイオプション。
  • 組み込みのReact UIとNode.js APIサーバーを備える。
  • SensAI.PTなどの大規模アプリケーションでプロダクション検証済み。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト