java-up-up/nexus-agent

해결하는 문제

Nexus Agent는 단순한 API 호출이나 기본적인 RAG 데모를 넘어서는 엔터프라이즈급 AI 에이전트 플랫폼입니다. 단순한 프로토타입과 본격적인 생산 환경용 시스템 사이의 격차를 메우기 위해, 문서 거버넌스, 고정밀 검색, 자율 에이전트 행동을 위한 복잡한 엔지니어링 패턴을 구현하며, 기업 환경에서의 환각( hallucination), 토큰 비용, 검색 정확도 문제에 특화되어 있습니다.

작동 방식

이 시스템은 LLM에만 의존하지 않는 다층 아키텍처를 사용합니다. 프리오케스트레이션 엔진이 쿼리 재작성, 하위 질문 분할, 모호성 탐지 후, 세 가지 실행 엔진 중 하나로 요청을 라우팅합니다: 명확화 실행 엔진(모호한 쿼리용), RAG 지식 실행 엔진(증거 기반 생성 및 인용 포함), 또는 ReAct 에이전트 실행 엔진(다단계 추론과 도구 사용이 필요한 오픈엔드 작업용).

주요 기술 구성 요소:

• 하이브리드 검색: Reciprocal Rank Fusion (RRF)과 선택적 재랭킹을 사용해 벡터 검색(PGVector)과 키워드 검색(Elasticsearch)을 통합.
• 지식 그래프: Neo4j를 사용해 문서 구조(Document → Section → Item)를 매핑하여 구조적 탐색 가능.
• 부모-자식 청크 분할: 정밀도를 높이기 위해 작은 "자식" 청크를 검색하지만, LLM에 전체 맥락을 제공하기 위해 더 큰 "부모" 청크를 제공.
• 메모리 관리: 컨텍스트 창 제한과 토큰 비용의 균형을 위해 세 가지 전략(없음, 슬라이딩 윈도우, 요약 압축) 제공.
• MCP 및 스킬: 동적 도구 탐색을 위한 Model Context Protocol (MCP)과 확장 가능한 도메인 기능을 제공하는 선언적 "스킬" 시스템 통합.

대상 사용자

• AI 애플리케이션 개발로 전환을 원하는 백엔드 개발자(특히 Java/Spring).
• 모델 튜닝보다는 엔지니어링 엄격성에 초점을 맞춘 생산 수준의 RAG/에이전트 시스템을 구현하고자 하는 엔지니어.
• 최전방 AI 아키텍처에 대한 기술 면접 준비를 하는 학생 또는 전문가.

주요 특징

• 3단계 실행: 오픈엔드 에이전트 탐색보다 안정적인 RAG 경로를 우선시하여 예측 불가능한 에이전트 행동을 방지.
• 인과적 증거 제어: 관련 문서가 없을 경우 모델이 환각하지 않도록 "증거 없음 단절" 기능 구현.
• 복합 청크 엔진: 구조적, 재귀적, 의미적, LLM 기반 청크 전략을 통합.
• 엔터프라이즈 가드레일: 클러스터 동시성 처리를 위한 Redis 기반 레이스 잠금, 무한 루프 방지를 위한 모델/도구 호출 제한, 전체 링크 관측 추적 포함.
• 샤도우 라우팅: 시스템 추천 문서와 사용자 선택 문서를 조용히 비교해 지속적으로 라우팅 품질 최적화.