SensAI-PT/RAGMeUp
Generic rag framework to apply the power of LLMs on any given dataset
何を解決するか
RAG Me Up は、検索拡張生成(RAG)アプリケーションの開発を迅速化するためのモジュール型フレームワークです。繰り返しのボイラープレートコードを書く必要がなく、開発者はコアのRAGロジックとカスタマイズに集中できます。
動作方法
このプロジェクトは、独自のチャンカー、ベクトルストア、リトリーバーを統合できるプラグアンドプレイアーキテクチャを提供します。Docker Composeでデプロイされ、React UI、Node.js APIサーバー、Python RAGサーバーを備えています。パフォーマンス向上のため、「ハイブリッドモード」をサポートしており、Pythonサーバーをホストマシン上で実行することで、GPU/CUDAアクセラレーションを活用して埋め込みや推論を高速化できます。
対象ユーザー
ゼロから始めるのではなく、迅速にRAGアプリケーションを構築・プロトタイピングしたい開発者、また大規模な環境向けに拡張性があるプロダクション対応フレームワークが必要なユーザー。
特徴
- カスタムチャンカー、ベクトルストア、リトリーバーに対応するモジュール型設計。
- DockerによるフルデプロイまたはGPU対応ハイブリッドモードを含む包括的なデプロイオプション。
- 組み込みのReact UIとNode.js APIサーバーを備える。
- SensAI.PTなどの大規模アプリケーションでプロダクション検証済み。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト