SensAI-PT/RAGMeUp

Generic rag framework to apply the power of LLMs on any given dataset

解决的问题

RAG Me Up 是一个模块化框架,旨在加速检索增强生成(RAG)应用的开发。它消除了编写重复性样板代码的需求,使开发者能够专注于核心 RAG 逻辑和自定义功能。

工作原理

该项目提供即插即用的架构,允许用户集成自己的分块器、向量存储和检索器。通过 Docker Compose 部署,包含 React UI、Node.js API 服务器和 Python RAG 服务器。为提升性能,支持“混合模式”,即 Python 服务器在主机上运行,以利用 GPU/CUDA 加速嵌入和推理。

适用人群

希望快速构建和原型化 RAG 应用而无需从零开始的开发者,以及需要可扩展、适用于大规模场景的生产级框架的用户。

主要亮点

  • 支持自定义分块器、向量存储和检索器的模块化设计。
  • 提供完整的 Docker 部署或支持 GPU 的混合模式等全面部署选项。
  • 内置 React UI 和 Node.js API 服务器。
  • 已在 SensAI.PT 等大规模应用中完成生产环境验证。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目