quarkiverse/quarkus-langchain4j

Quarkus LangChain4j – 빠른 개요

이것은 무엇인가: LangChain4j 라이브러리를 통해 대규모 언어 모델(LLM) 기능을 Quarkus 애플리케이션에 직접 연결할 수 있는 일련의 Quarkus 확장입니다. 실제로 Maven 아티팩트를 추가하고 공급자(OpenAI, Ollama, Hugging Face 등)를 구성하면 다른 Quarkus 빈과 마찬가지로 LLM 호출, 임베딩 작업, 문서 검색 또는 선언적 AI 서비스 노출이 가능합니다.

주요 기능

• 선언적 AI 서비스 – 인터페이스를 정의하면 확장이 LLM 기반 구현을 생성합니다.
• 멀티 LLM 지원 – OpenAI GPT, Hugging Face 모델, Ollama 등.
• 도구 및 임베딩 통합 – LLM 기반 도구를 사용하고 벡터 임베딩을 생성/조회합니다.
• 문서 저장소 – RAG 스타일 검색을 위해 Redis, Chroma, Infinispan 등에 연결합니다.
• 네이티브 컴파일 – 저비용 배포를 위해 Quarkus 네이티브 이미지와 함께 작동합니다.
• 관찰 가능성 – Quarkus 내장 스택을 통한 메트릭 및 추적.
• 플러그형 인증 – 기본 모델 API에 대한 유연한 인증.

시작하기 적절한 Maven 종속성을 추가합니다. 예:

<dependency>
  <groupId>io.quarkiverse.langchain4j</groupId>
  <artifactId>quarkus-langchain4j-openai</artifactId>
  <version>1.15.0.CR1</version>
</dependency>

그런 다음 API 키를 구성하고 생성된 AI 서비스 빈을 사용합니다.

자세히 알아보기

• 전체 문서: https://docs.quarkiverse.io/quarkus-langchain4j/dev/index.html
• 샘플 프로젝트 및 통합 테스트는 저장소의 samples/ 및 integration-tests/에 있습니다.

대상 독자 LangChain4j 라이브러리를 수동으로 연결하지 않고 LLM 기반 기능(채팅, 요약, RAG, 도구 사용)을 추가하려는 Quarkus로 마이크로서비스를 구축하는 Java 개발자.

라이선스: Apache 2.0.