opensolon/solon-ai

Java AI application development framework (supports LLM-tool,skill; RAG; MCP; Agent-ReAct,Team-Agent). Compatible with java8 ~ java25. It can also be embedded in SpringBoot, jFinal, Vert.x, Quarkus, and other frameworks.

What it solves

Solon AI 是一个面向 Java 开发者的原生开发框架，旨在帮助他们构建生产级 AI 应用。它提供了一种统一的方式，将大语言模型（LLM）、检索增强生成（RAG）和自主代理集成到 SpringBoot、Vert.X、Quarkus 等 Java 生态系统中，填补了相较于 Python 框架（如 LangChain）更倾向使用 Java 的开发者的空白。

How it works

框架通过以下核心模块运作：

  • ChatModel：使用 “dialects” 适配不同的 LLM 提供商（OpenAI、Gemini、Claude、Ollama、DeepSeek 等），提供统一接口。
  • RAG Pipeline：完整链路系统，包括文档加载器、分块器、嵌入模型和重排模型，用于构建知识库。
  • MCP Integration：深度支持模型上下文协议（Model Context Protocol，MCP），通过服务器端和客户端实现跨平台共享工具、资源和 Prompt。
  • Agent Orchestration：基于图驱动的流程实现 ReAct（Reasoning and Acting）循环以及基于预设协议的多代理团队协作。
  • Ai Flow：基于 YAML 的编排系统，允许开发者像使用 Dify 等低代码平台一样，仅通过配置文件定义 AI 工作流，无需编写大量代码。

Who it’s for

面向希望在 Java 环境（支持 JDK 8 至 25）中构建 AI 代理、智能助理或基于 RAG 的知识库的 Java 开发者和企业软件工程师。

Highlights

  • Java 生态系统集成：可无缝工作于 Solon、SpringBoot、Vert.X、Quarkus。
  • 多模型支持：通过 dialect 适配，实现对多种 LLM 提供商的统一 API 调用。
  • 图驱动代理：将复杂的代理推理转化为可观察、可治理的计算流图。
  • MCP 支持：原生集成模型上下文协议，实现工具和资源共享。
  • 低代码 YAML 流：通过 YAML 配置即可编排 RAG 与模型调用。