quarkiverse/quarkus-langchain4j

Quarkus LangChain4j – 快速概览

它是什么：一组 Quarkus 扩展，让您通过 LangChain4j 库将大语言模型（LLM）功能直接插入 Quarkus 应用程序。实际上，您添加一个 Maven 工件，配置一个提供商（OpenAI、Ollama、Hugging Face 等），就可以像调用任何其他 Quarkus Bean 一样调用 LLM、处理嵌入、检索文档或公开声明式 AI 服务。

主要功能

声明式 AI 服务 – 定义接口，扩展就会生成基于 LLM 的实现。
多 LLM 支持 – OpenAI GPT、Hugging Face 模型、Ollama 等。
工具与嵌入集成 – 使用 LLM 驱动的工具，创建/查询向量嵌入。
文档存储 – 连接到 Redis、Chroma、Infinispan 等，用于 RAG 风格的检索。
原生编译 – 与 Quarkus 原生镜像配合使用，实现低资源占用部署。
可观测性 – 通过 Quarkus 内置栈进行指标和追踪。
可插拔认证 – 对底层模型 API 进行灵活认证。

开始使用 添加适当的 Maven 依赖，例如：

<dependency>
  <groupId>io.quarkiverse.langchain4j</groupId>
  <artifactId>quarkus-langchain4j-openai</artifactId>
  <version>1.15.0.CR1</version>
</dependency>

然后配置您的 API 密钥并使用生成的 AI 服务 Bean。

了解更多

完整文档：https://docs.quarkiverse.io/quarkus-langchain4j/dev/index.html
示例项目和集成测试位于存储库的 samples/ 和 integration-tests/ 目录下。

适用对象 使用 Quarkus 构建微服务的 Java 开发人员，希望在不手动连接 LangChain4j 库的情况下添加 LLM 驱动的功能（聊天、摘要、RAG、工具使用）。

许可证：Apache 2.0。

quarkiverse/quarkus-langchain4j

Quarkus LangChain4j – 快速概览

相关