agents-flex/agents-flex

解决的问题

Agents-Flex 是 Java 生态系统的一个轻量级 AI 应用开发框架。它允许开发者在不被特定运行时或应用框架锁定的情况下，构建智能客服、企业知识库、自然语言数据分析工具等 AI 驱动的服务。它简化了多个模型提供商的集成以及复杂 AI 工作流的编排。

如何工作

该框架由可自由组合的模块化组件构成。它为不同模型类型（聊天、嵌入、图像、重排序）提供统一的抽象，并为同步和流式输出提供一致的 API。

主要机制包括：

• 工具调用：支持基于注解的工具定义和动态工具构建，通过「工具组」系统，仅在用户提示匹配特定条件时才附加工具。
• 持久化代理运行时：AgentRunner 管理代理回合，包括快照恢复、工具审批以及通过 JDBC 或 Redis 实现的持久化。
• RAG 流水线：提供完整的构建模块，用于文档提取、分割、嵌入和检索，支持多种向量存储。
• 拦截器：采用责任链模式，允许开发人员在请求到达模型前，有条件地修改提示、选项和请求头。
• 专用模块：包含对 MCP（模型上下文协议）、用于数据分析的 Text2SQL，以及用于结构化知识导航的分层「LLM Wiki」的专门支持。

适用人群

需要一个与 Spring Boot 或纯 Java（JDK 8+）集成的、生产就绪的模块化框架的 Java 开发者。

特色亮点

• 原生 Java：兼容 Java 8+，与 Spring Boot 无缝集成。
• 广泛集成：支持多种 LLM 提供商（OpenAI、Qwen、DeepSeek、Ollama）、向量存储（Redis、Milvus、Elasticsearch），以及多模态能力（图像、视频、音频、OCR）。
• 生产就绪：内置模型路由、负载均衡、熔断机制，以及基于 OpenTelemetry 的可观测性功能。
• 灵活工具链：包含用于隔离技能执行的沙箱和渐进式工具发现系统。
• MCP 支持：可将外部 MCP 工具转换为原生框架工具。