agents-flex/agents-flex

해결하는 문제

Agents-Flex는 Java 생태계를 위한 가벼운 AI 애플리케이션 개발 프레임워크입니다. 특정 런타임이나 애플리케이션 프레임워크에 종속되지 않고, 지능형 고객 서비스, 기업 지식 기반, 자연어 기반 데이터 분석 도구와 같은 AI 기반 서비스를 개발할 수 있습니다. 다양한 모델 제공업체 통합과 복잡한 AI 워크플로우 조율을 간소화합니다.

작동 방식

이 프레임워크는 개발자가 자유롭게 조합할 수 있는 모듈형 구성 요소로 구성되어 있습니다. 채팅, 임베딩, 이미지, 재랭킹 등 다양한 모델 유형에 대해 통일된 추상화를 제공하며, 동기 및 스트리밍 출력 모두에 일관된 API를 제공합니다.

주요 기능:

• 도구 호출: 어노테이션 기반 도구 정의와 동적 도구 생성을 지원하며, "도구 그룹" 시스템을 통해 사용자 프롬프트가 특정 조건과 일치할 때만 도구를 연결합니다.
• 내구성 있는 에이전트 런타임: AgentRunner는 에이전트의 턴을 관리하며, 스냅샷 복구, 도구 승인, JDBC 또는 Redis를 통한 지속성 기능을 제공합니다.
• RAG 파이프라인: 다양한 벡터 스토어를 사용한 문서 추출, 분할, 임베딩, 검색을 위한 완전한 빌딩 블록 세트를 제공합니다.
• 인터셉터: 책임 체인 패턴을 통해 모델에 도달하기 전에 프롬프트, 옵션, 요청 헤더를 조건부로 수정할 수 있습니다.
• 전용 모듈: MCP(Model Context Protocol), 데이터 분석용 Text2SQL, 구조화된 지식 탐색을 위한 계층적 "LLM 위키"를 전용으로 지원합니다.

대상 사용자

Spring Boot 또는 순수 Java(JDK 8+)와 통합 가능한, 본격적인 모듈식 프레임워크를 필요로 하는 Java 개발자.

주요 특징

• 자바 네이티브: Java 8+와 Spring Boot와의 원활한 통합을 지원합니다.
• 광범위한 통합: OpenAI, Qwen, DeepSeek, Ollama 등 다양한 LLM 제공업체, Redis, Milvus, Elasticsearch 등 다양한 벡터 스토어, 이미지, 동영상, 오디오, OCR 등 멀티모달 기능을 지원합니다.
• 본격적인 운영 준비: 내장된 모델 라우팅, 로드 밸런싱, 회로 차단, OpenTelemetry 기반의 관찰성 기능을 제공합니다.
• 유연한 도구 세트: 고립된 기술 실행을 위한 사전과 점진적인 도구 탐색 시스템을 포함합니다.
• MCP 지원: 외부 MCP 도구를 프레임워크 내부 도구로 변환합니다.