nageoffer/ragent

해결하는 문제

Ragent AI는 단순한 AI 데모와 기업 수준의 Agentic RAG(Retrieval-Augmented Generation) 시스템 사이의 격차를 메우기 위해 설계된 프로덕션 수준의 Java 플랫폼입니다. 낮은 검색 정확도, 모델 불안정성, 높은 토큰 비용, AI 애플리케이션의 관측성 부족과 같은 일반적인 프로덕션 문제를 해결합니다.

작동 방식

이 플랫폼은 전문화된 엔진으로 나누어진 모듈식 Java 아키텍처를 사용합니다. 두 가지 주요 상호작용 모드를 지원합니다: 예측 가능한 Q&A를 위한 구조화된 워크플로우(v1)와 ReAct 엔진을 통해 모델이 지식 검색, MCP 도구, 또는 특정 기술 사용 여부를 자율적으로 결정할 수 있는 Agentic 아키텍처(v2)입니다.

주요 기술 구성 요소는 다음과 같습니다:

• 하이브리드 검색: 벡터, 키워드, 지식 그래프, 웹 검색을 RRF 융합과 재랭킹으로 결합.
• 질의 이해: 질의 매핑, 질문 재작성/분할, 트리 기반의 의도 인식을 구현.
• 모델 관리: 모델 라우팅, 첫 번째 패킷 감지, 장애 대체를 위한 회로 차단 기능.
• 메모리 및 트래픽: 세션 메모리용 지속적 요약과 Redis 기반의 공정 대기열을 통한 동시성 제어.
• 지식 파이프라인: 원격 갱신과 추적 가능성을 갖춘 오케스트레이션 가능한 인제스트 파이프라인 제공.

대상 사용자

• Java 백엔드 개발자: Python으로 전환하지 않고도 AI 엔지니어링으로 전환하고 싶은 개발자.
• 학생/취업 준비생: 포트폴리오에 고복잡도의 비-CRUD 프로젝트를 제시하여 AI 및 엔지니어링 역량을 입증하고 싶은 개발자.
• 기업 개발자: 다중 테넌트 격리 및 관측성과 같은 프로덕션 수준 패턴을 참고하고자 하는 RAG 시스템 개발자.

주요 특징

• Agentic ReAct 엔진: 자율적인 도구 사용과 다단계 추론을 지원.
• MCP 통합: 원격 도구 탐지 및 스키마 검증을 위한 Model Context Protocol 구현.
• 프로덕션 준비 인프라: 분산 레이트 제한, RocketMQ를 통한 트랜잭션 메시지, 전체 링크 트레이싱 포함.
• 포괄적인 관리 콘솔: React 기반의 관리 패널로 지식 기반, 의도 트리, RAG 트레이스를 관리 가능.
• 확장성 있는 설계: Strategy, Factory, Adapter 등의 디자인 패턴을 사용해 LLM, 벡터 데이터베이스, 스토리지 제공업체를 쉽게 교체할 수 있습니다.