opensolon/solon-ai

Java AI application development framework (supports LLM-tool,skill; RAG; MCP; Agent-ReAct,Team-Agent). Compatible with java8 ~ java26. It can also be embedded in SpringBoot, jFinal, Vert.x, Quarkus, and other frameworks.

它解决了什么问题

Solon AI 是一个全面的 Java 原生 AI 开发框架,旨在将 LangChain 或 LlamaIndex 等基于 Python 的框架的能力引入 Java 生态系统。它允许 Java 开发者在不离开其首选语言和环境的情况下,构建生产级的 AI 应用——例如自主代理、RAG 知识库和多代理系统。

工作原理

该框架通过一个处理模型差异的“方言”系统,提供了一个统一的接口来与各种 LLM 提供商(OpenAI, Gemini, Claude, Ollama 等)进行交互。它将 AI 逻辑组织成几个核心模块:

  • ChatModel:用于 LLM 调用的通用接口,支持同步和响应式流。
  • RAG Pipeline:一个全链路系统,包括用于知识检索的文档加载器、切分器、嵌入模型和重排序模型。
  • MCP Integration:对 Model Context Protocol 的深度支持,允许创建 MCP 服务器和客户端,以实现跨平台的工具和资源共享。
  • Agent Orchestration:实现推理模式,如 ReAct (Think-Call-Observe-Summarize),并通过预定义协议(例如层级结构)实现团队协作。
  • Ai Flow:一个基于 YAML 的编排引擎,支持类似于 Dify 的低代码、图驱动的工作流定义。

适用人群

需要将 LLM 和代理工作流集成到现有 Java 应用(例如 SpringBoot, Vert.X, Quarkus)中的 Java 开发者和企业团队,支持广泛的 JDK 版本(从 8 到 25)。

亮点

  • Java-Native Ecosystem:与主流 Java 框架无缝集成,并支持广泛的 JDK 版本。
  • Multi-Model Dialects:针对多个 LLM 提供商的统一 API,减少供应商锁定。
  • Graph-Driven Agents:将复杂的代理推理转化为可观察且可治理的计算流图。
  • MCP Support:Model Context Protocol 的原生实现,用于标准化的工具共享。
  • Low-Code Flow:基于 YAML 的流程编排,用于快速的 AI 工作流原型设计。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目