SensAI-PT/RAGMeUp

Generic rag framework to apply the power of LLMs on any given dataset

解決的問題

RAG Me Up 是一個模組化框架,旨在加速檢索增強生成(RAG)應用的開發。它消除了撰寫重複性樣板程式碼的需求,讓開發者能專注於核心 RAG 邏輯與自訂功能。

工作原理

此專案提供即插即用的架構,允許使用者整合自己的分塊器、向量儲存與檢索器。透過 Docker Compose 部署,包含 React UI、Node.js API 伺服器與 Python RAG 伺服器。為提升效能,支援「混合模式」,即 Python 伺服器在主機上執行,以利用 GPU/CUDA 加速嵌入與推論。

適用對象

希望快速建構與原型化 RAG 應用而無需從零開始的開發者,以及需要可擴展、適用於大規模場景的生產級框架的使用者。

主要亮點

  • 支援自訂分塊器、向量儲存與檢索器的模組化設計。
  • 提供完整的 Docker 部署或支援 GPU 的混合模式等全面部署選項。
  • 內建 React UI 與 Node.js API 伺服器。
  • 已在 SensAI.PT 等大型應用中完成生產環境驗證。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案