agents-flex/agents-flex

Agents-flex is A lightweight Java AI agent development framework (positioned as a counterpart to Spring AI). It supports features such as RAG, MCP, Skills, Text2SQL , LLM Wiki, Sub-agents, Web Search, TTS (synchronous and streaming), and STT.

解決的問題

Agents-Flex 是一個面向 Java 生態系統的輕量級 AI 應用開發框架。它提供了一種模組化方法來構建 AI 驅動的應用，允許開發人員在不被特定執行階段或應用框架綁定的情況下，整合 LLM、RAG 和代理工作流。

工作原理

該框架將 AI 能力組織成獨立的模組（例如 agents-flex-chat、agents-flex-store、agents-flex-mcp）。它使用 ChatModel、EmbeddingModel 和 ImageModel 等統一抽象來封裝特定供應商的 API。它實現了一個全面的工具調用流程，支援基於註解的掃描和動態工具構建，並包含一個用於修改請求和回應的攔截器系統。

適用對象

構建智慧客服、企業知識庫、自然語言數據分析工具和 AI 輔助辦公工具的 Java 開發人員，特別是那些使用 Spring Boot 或其他 JVM 技術棧的開發人員。

亮點

  • Java 原生: 相容 Java 8+ 並與 Spring Boot 無縫整合。
  • 全面的工具鏈: 支援 ReAct 代理、路由代理、子代理以及 MCP (Model Context Protocol) 客戶端整合。
  • 全棧 RAG: 包括文件解析、拆分、嵌入以及與眾多向量資料庫（如 Redis, Milvus, Qdrant）的整合。
  • 生產就緒: 具備模型路由、負載平衡、熔斷機制以及基於 OpenTelemetry 的可觀測性功能。
  • 專業能力: 包括用於數據分析的 Text2SQL 系統和用於層級化知識組織的「LLM Wiki」。