SensAI-PT/RAGMeUp
Generic rag framework to apply the power of LLMs on any given dataset
해결하는 문제
RAG Me Up은 검색 증강 생성(RAG) 애플리케이션 개발을 가속화하기 위해 설계된 모듈형 프레임워크입니다. 반복적인 보일러플레이트 코드를 작성할 필요 없이, 개발자는 핵심 RAG 로직과 사용자 정의에 집중할 수 있습니다.
작동 방식
이 프로젝트는 사용자가 자체 청크기, 벡터 스토어, 리트리버를 통합할 수 있는 플러그 앤 플레이 아키텍처를 제공합니다. Docker Compose를 통해 배포되며, React UI, Node.js API 서버, Python RAG 서버를 포함합니다. 성능을 위해 "하이브리드 모드"를 지원하며, Python 서버를 호스트 머신에서 실행하여 GPU/CUDA 가속을 활용해 임베딩 및 추론을 최적화합니다.
대상 사용자
기본부터 시작하지 않고도 빠르게 RAG 애플리케이션을 구축하고 프로토타이핑하고 싶은 개발자, 그리고 대규모 환경에서 확장 가능한 프로덕션 수준의 프레임워크가 필요한 사용자.
주요 특징
- 커스텀 청크기, 벡터 스토어, 리트리버를 위한 모듈형 설계.
- 완전한 Docker 또는 GPU 지원 하이브리드 모드를 포함한 포괄적인 배포 옵션.
- 내장된 React UI와 Node.js API 서버 포함.
- SensAI.PT와 같은 대규모 애플리케이션에서 프로덕션 검증 완료.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트