LnYo-Cly/ai4j

Java 8+ agentic SDK: unified LLM access (OpenAI/Anthropic/DashScope/Doubao/DeepSeek...), Tool Calling, MCP, RAG, Agent Runtime, and a built-in Coding Agent CLI/TUI/ACP.

解決的問題

ai4j 是為 Java 開發者 (JDK 8+) 構建 AI 驅動型應用與智慧代理而設計的全面 SDK。透過為多個模型提供商提供統一介面、內建 RAG 能力以及專用的自主代理執行期，它彌合了簡單 LLM API 呼叫與複雜代理工作流之間的鴻溝。

工作原理

該專案組織為一個多模組 SDK。核心 ai4j 模組處理跨越 OpenAI、Anthropic、DeepSeek 與 Ollama 等各種平台的統一模型存取（Chat、Embedding、Rerank 等）。更高級別的模組如 ai4j-agent 與 ai4j-coding 為 ReAct 迴圈、子代理與團隊協作提供執行期邏輯。它還包含用於 RAG 的 IngestionPipeline，連接文件載入器、分塊器與向量資料庫（如 Milvus 或 Qdrant）以實現語義搜尋。

適用對象

需要將 AI 能力整合到現有應用程式中的 Java 開發者，特別是那些使用舊版 JDK 版本 (JDK 8+) 的開發者，或是希望在 Java 生態系統中構建複雜 AI 代理與編程助手的開發者。

亮點

  • 廣泛的模型支援：統一存取全球及中國範圍內的多種 LLM 提供商。
  • 代理執行期：內建對 ReAct、子代理、代理團隊與記憶體管理的支援。
  • MCP 支援：整合的模型上下文協定 (MCP) 閘道，用於動態資料來源。
  • 全棧 RAG：從攝取到混合檢索 (BM25 + 語義) 及重排序的完整流水線。
  • 編程代理：透過 CLI/TUI/ACP 與本地程式碼庫互動的專用工具。
  • Spring Boot 整合：透過專用的 Spring Boot starter 提供一流支援。
  • 工作流整合：能夠連接到 Dify、Coze 與 n8n 等外部 AgentFlow 端點。