langchain4j/langchain4j

LangChain4j is an idiomatic, open-source Java library for building LLM-powered applications on the JVM. It offers a unified API over popular LLM providers and vector stores, and makes implementing tool calling (including MCP support), agents and RAG easy. It integrates seamlessly with enterprise Java frameworks like Quarkus and Spring Boot.

它解決了什麼問題

LangChain4j 簡化了在 Java 應用程式中整合大型語言模型（LLM）的流程。它免除開發者必須為每個不同的 LLM 供應商或向量儲存庫學習並實作專屬 API 的需求，讓他們可以在不重新編寫整個程式碼庫的情況下切換供應商。

它如何運作

它提供一層統一的 API，抽象化超過 20 種 LLM 供應商與 30 種嵌入式儲存的複雜性。此函式庫提供完整的抽象與模式工具箱，從低階工具如提示模板與聊天記憶管理，到高階的代理人與檢索增強生成（RAG）管線實作。

目標對象

在 JVM 上開發以 LLM 為核心的應用程式的 Java 開發者，尋求符合 Java 習慣（如型別安全、POJO、依賴注入）的慣用函式庫。

重點特色

  • 統一 API： 支援超過 20 家 LLM 供應商與 30 種嵌入式儲存。
  • 符合 Java 慣例： 從頭開始為 Java 設計（非移植），可與 Spring Boot、Quarkus、Helidon、Micronaut 等框架整合。
  • 完整工具集： 包含函式呼叫、聊天記憶以及從資料攝取到檢索的完整 RAG 管線支援。
  • 彈性抽象： 提供介面與即用即拿的實作，涵蓋常見 AI 模式。