opensolon/solon-ai

Java AI application development framework (supports LLM-tool,skill; RAG; MCP; Agent-ReAct,Team-Agent). Compatible with java8 ~ java25. It can also be embedded in SpringBoot, jFinal, Vert.x, Quarkus, and other frameworks.

What it solves

Solon AI 是一個面向 Java 開發者的原生開發框架，旨在協助他們構建生產級 AI 應用。它提供了一種統一的方式，將大型語言模型（LLM）、檢索增強生成（RAG）與自主代理整合到 SpringBoot、Vert.X、Quarkus 等 Java 生態系統中，填補了相較於 Python 框架（如 LangChain）更偏好使用 Java 的開發者的空白。

How it works

框架透過以下核心模組運作：

  • ChatModel：使用 “dialects” 來適配不同的 LLM 提供商（OpenAI、Gemini、Claude、Ollama、DeepSeek 等），提供統一介面。
  • RAG Pipeline：完整鏈路系統，包含文件載入器、切分器、嵌入模型與重新排序模型，用於建構知識庫。
  • MCP Integration：深度支援模型上下文協定（Model Context Protocol，MCP），透過伺服器端與客戶端實作實現跨平台共享工具、資源與 Prompt。
  • Agent Orchestration：基於圖驅動的流程實作 ReAct（Reasoning and Acting）迴圈以及基於預設協定的多代理團隊協作。
  • Ai Flow：基於 YAML 的編排系統，允許開發者如同使用 Dify 等低程式碼平台，只需透過配置檔案定義 AI 工作流程，無需撰寫大量程式碼。

Who it’s for

適用於希望在 Java 環境（支援 JDK 8 至 25）中構建 AI 代理、智慧助理或基於 RAG 的知識庫的 Java 開發者與企業軟體工程師。

Highlights

  • Java 生態系統整合：可無縫運作於 Solon、SpringBoot、Vert.X、Quarkus。
  • 多模型支援：透過 dialect 適配，實現對多種 LLM 提供商的統一 API 呼叫。
  • 圖驅動代理：將複雜的代理推理轉換為可觀察、可治理的計算流程圖。
  • MCP 支援：原生整合模型上下文協定，實現工具與資源共享。
  • 低程式碼 YAML 流：僅透過 YAML 設定即可編排 RAG 與模型呼叫。