opensolon/solon-ai

解決的問題

Solon AI 是一個全面的 Java 原生 AI 開發框架，旨在將 Python 框架（如 LangChain 或 LlamaIndex）的功能帶入 Java 生態系統。它讓 Java 開發者能在其偏好的語言和環境中，無需轉換即可構建生產級 AI 應用程式——例如自主代理、RAG 知識庫以及多代理系統。

如何運作

該框架透過「方言」系統，提供統一介面以與各種 LLM 提供商（OpenAI、Gemini、Claude、Ollama 等）互動，處理模型差異。它將 AI 邏輯組織成幾個核心模組：

• ChatModel：用於 LLM 調用的通用介面，支援同步與反應式資料流。
• RAG Pipeline：完整的鏈式系統，包含文件載入器、分割器、嵌入模型與重排序模型，用於知識檢索。
• MCP 集成：深度支援 Model Context Protocol，可建立 MCP 伺服器與客戶端，實現跨平台工具與資源共享。
• 代理協調：實作如 ReAct（思考-呼叫-觀察-總結）等推理模式，以及透過預定義協議（例如層級結構）進行團隊協作。
• Ai Flow：基於 YAML 的協調引擎，支援低程式碼、圖形驅動的工作流程定義，類似於 Dify。

適用對象

需要將 LLM 與代理工作流程整合至現有 Java 應用程式（例如 SpringBoot、Vert.X、Quarkus）的 Java 開發者與企業團隊，支援廣泛的 JDK 版本（8 到 25）。

特色亮點

• Java 原生生態系統：與主要 Java 框架無縫整合，支援廣泛的 JDK 版本。
• 多模型方言：為多個 LLM 提供商提供統一 API，降低供應商鎖定風險。
• 圖形驅動代理：將複雜的代理推理轉化為可觀察與可管理的計算流程圖。
• MCP 支援：原生實作 Model Context Protocol，實現標準化工具共享。
• 低程式碼流程：基於 YAML 的流程協調，加速 AI 工作流程原型設計。