langchain4j/langchain4j

LangChain4j is an idiomatic, open-source Java library for building LLM-powered applications on the JVM. It offers a unified API over popular LLM providers and vector stores, and makes implementing tool calling (including MCP support), agents and RAG easy. It integrates seamlessly with enterprise Java frameworks like Quarkus and Spring Boot.

它解决了什么问题

LangChain4j 简化了在 Java 应用中集成大型语言模型（LLM）的过程。它消除了开发者必须为每个不同的 LLM 提供商或向量存储学习并实现专有 API 的需求，使他们能够在不重写整个代码库的情况下切换供应商。

它如何工作

它提供一个统一的 API 层，抽象出 20 多种 LLM 提供商和 30 多种嵌入存储的复杂性。该库提供全面的抽象和模式工具箱，从低层工具如提示模板和聊天记忆管理，到高层的代理和检索增强生成（RAG）流水线实现。

适用人群

在 JVM 上构建 LLM 驱动应用的 Java 开发者，想要一个遵循 Java 约定（如类型安全、POJO、依赖注入）的惯用库。

亮点

  • 统一 API： 支持超过 20 家 LLM 提供商和 30 种嵌入存储。
  • 符合 Java 习惯： 从头为 Java 构建（非移植），可与 Spring Boot、Quarkus、Helidon、Micronaut 等框架集成。
  • 完整工具集： 包含函数调用、聊天记忆以及从数据摄取到检索的完整 RAG 流水线支持。
  • 灵活抽象： 提供接口和即用实现，覆盖常见 AI 模式。