LnYo-Cly/ai4j

Java 8+ agentic SDK: unified LLM access (OpenAI/Anthropic/DashScope/Doubao/DeepSeek...), Tool Calling, MCP, RAG, Agent Runtime, and a built-in Coding Agent CLI/TUI/ACP.

解决的问题

ai4j 是为 Java 开发者 (JDK 8+) 构建 AI 驱动型应用和智能代理而设计的全面 SDK。通过为多个模型提供商提供统一接口、内置 RAG 能力以及专用的自主代理运行时，它弥合了简单 LLM API 调用与复杂代理工作流之间的鸿沟。

工作原理

该项目组织为一个多模块 SDK。核心 ai4j 模块处理跨越 OpenAI、Anthropic、DeepSeek 和 Ollama 等各种平台的统一模型访问（Chat、Embedding、Rerank 等）。更高级别的模块如 ai4j-agent 和 ai4j-coding 为 ReAct 循环、子代理和团队协作提供运行时逻辑。它还包含用于 RAG 的 IngestionPipeline，连接文档加载器、分块器和向量数据库（如 Milvus 或 Qdrant）以实现语义搜索。

适用对象

需要将 AI 能力集成到现有应用程序中的 Java 开发者，特别是那些使用旧版 JDK 版本 (JDK 8+) 的开发者，或者希望在 Java 生态系统中构建复杂 AI 代理和编程助手的开发者。

亮点

  • 广泛的模型支持：统一访问全球及中国范围内的多种 LLM 提供商。
  • 代理运行时：内置对 ReAct、子代理、代理团队和内存管理的支持。
  • MCP 支持：集成的模型上下文协议 (MCP) 网关，用于动态数据源。
  • 全栈 RAG：从摄取到混合检索 (BM25 + 语义) 及重排序的完整流水线。
  • 编程代理：通过 CLI/TUI/ACP 与本地代码库交互的专用工具。
  • Spring Boot 集成：通过专用的 Spring Boot starter 提供一流支持。
  • 工作流集成：能够连接到 Dify、Coze 和 n8n 等外部 AgentFlow 端点。