SensAI-PT/RAGMeUp
Generic rag framework to apply the power of LLMs on any given dataset
解決的問題
RAG Me Up 是一個模組化框架,旨在加速檢索增強生成(RAG)應用的開發。它消除了撰寫重複性樣板程式碼的需求,讓開發者能專注於核心 RAG 邏輯與自訂功能。
工作原理
此專案提供即插即用的架構,允許使用者整合自己的分塊器、向量儲存與檢索器。透過 Docker Compose 部署,包含 React UI、Node.js API 伺服器與 Python RAG 伺服器。為提升效能,支援「混合模式」,即 Python 伺服器在主機上執行,以利用 GPU/CUDA 加速嵌入與推論。
適用對象
希望快速建構與原型化 RAG 應用而無需從零開始的開發者,以及需要可擴展、適用於大規模場景的生產級框架的使用者。
主要亮點
- 支援自訂分塊器、向量儲存與檢索器的模組化設計。
- 提供完整的 Docker 部署或支援 GPU 的混合模式等全面部署選項。
- 內建 React UI 與 Node.js API 伺服器。
- 已在 SensAI.PT 等大型應用中完成生產環境驗證。
相關
- 專案
- 專案
- 專案
- 專案
- 專案