SensAI-PT/RAGMeUp
Generic rag framework to apply the power of LLMs on any given dataset
解决的问题
RAG Me Up 是一个模块化框架,旨在加速检索增强生成(RAG)应用的开发。它消除了编写重复性样板代码的需求,使开发者能够专注于核心 RAG 逻辑和自定义功能。
工作原理
该项目提供即插即用的架构,允许用户集成自己的分块器、向量存储和检索器。通过 Docker Compose 部署,包含 React UI、Node.js API 服务器和 Python RAG 服务器。为提升性能,支持“混合模式”,即 Python 服务器在主机上运行,以利用 GPU/CUDA 加速嵌入和推理。
适用人群
希望快速构建和原型化 RAG 应用而无需从零开始的开发者,以及需要可扩展、适用于大规模场景的生产级框架的用户。
主要亮点
- 支持自定义分块器、向量存储和检索器的模块化设计。
- 提供完整的 Docker 部署或支持 GPU 的混合模式等全面部署选项。
- 内置 React UI 和 Node.js API 服务器。
- 已在 SensAI.PT 等大规模应用中完成生产环境验证。
相关
- 项目
- 项目
- 项目
- 项目
- 项目