agents-flex/agents-flex

Agents-flex is A lightweight Java AI agent development framework (positioned as a counterpart to Spring AI). It supports features such as RAG, MCP, Skills, Text2SQL , LLM Wiki, Sub-agents, Web Search, TTS (synchronous and streaming), and STT.

해결하는 문제

Agents-Flex는 Java 생태계를 위한 경량 AI 애플리케이션 개발 프레임워크입니다. 모듈식 접근 방식을 통해 개발자가 특정 런타임이나 애플리케이션 프레임워크에 종속되지 않고 LLM, RAG 및 에이전트 워크플로우를 통합할 수 있도록 합니다.

작동 방식

이 프레임워크는 AI 기능을 개별 모듈(예: agents-flex-chat, agents-flex-store, agents-flex-mcp)로 구성합니다. ChatModel, EmbeddingModel, ImageModel과 같은 통합된 추상화를 사용하여 제공업체별 API를 래핑합니다. 어노테이션 기반 스캔 및 동적 도구 빌딩을 지원하는 포괄적인 도구 호출 흐름을 구현하며, 요청 및 응답을 수정하기 위한 인터셉터 시스템을 포함합니다.

대상 사용자

지능형 고객 서비스, 기업 지식 베이스, 자연어 데이터 분석 도구 및 AI 지원 오피스 도구를 구축하는 Java 개발자, 특히 Spring Boot 또는 기타 JVM 스택을 사용하는 개발자에게 적합합니다.

주요 특징

  • Java Native: Java 8 이상과 호환되며 Spring Boot와 원활하게 통합됩니다.
  • 포괄적인 툴링: ReAct 에이전트, 라우팅 에이전트, 서브 에이전트 및 MCP (Model Context Protocol) 클라이언트 통합을 지원합니다.
  • 전체 RAG 스택: 문서 파싱, 분할, 임베딩 및 다양한 벡터 스토어(예: Redis, Milvus, Qdrant)와의 통합을 포함합니다.
  • 프로덕션 준비 완료: 모델 라우팅, 부하 분산, 서킷 브레이커 및 OpenTelemetry 기반의 관측성을 제공합니다.
  • 특화된 기능: 데이터 분석을 위한 Text2SQL 시스템과 계층적 지식 정리를 위한 "LLM Wiki"를 포함합니다.