quarkiverse/quarkus-langchain4j

Quarkus Langchain4j extension

Quarkus LangChain4j – クイック概要

これは何か: LangChain4j ライブラリを介して大規模言語モデル (LLM) 機能を Quarkus アプリケーションに直接組み込むための一連の Quarkus 拡張機能です。実際には、Maven アーティファクトを追加し、プロバイダー (OpenAI、Ollama、Hugging Face など) を設定すると、他の Quarkus Bean と同様に、LLM の呼び出し、埋め込みの操作、ドキュメントの取得、宣言的 AI サービス の公開が可能になります。

主な機能

  • 宣言的 AI サービス – インターフェースを定義すると、拡張機能が LLM を利用した実装を生成します。
  • マルチ LLM サポート – OpenAI GPT、Hugging Face モデル、Ollama など。
  • ツールと埋め込みの統合 – LLM 駆動のツールを使用し、ベクトル埋め込みを作成/照会します。
  • ドキュメントストア – RAG スタイルの取得のために Redis、Chroma、Infinispan などに接続します。
  • ネイティブコンパイル – フットプリントの小さいデプロイメントのために Quarkus ネイティブイメージで動作します。
  • 可観測性 – Quarkus の組み込みスタックによるメトリクスとトレーシング。
  • プラグ可能な認証 – 基盤となるモデル API の柔軟な認証。

はじめに 適切な Maven 依存関係を追加します。例:

<dependency>
  <groupId>io.quarkiverse.langchain4j</groupId>
  <artifactId>quarkus-langchain4j-openai</artifactId>
  <version>1.15.0.CR1</version>
</dependency>

その後、API キーを設定し、生成された AI サービス Bean を使用します。

詳細情報

対象読者 Quarkus でマイクロサービスを構築する Java 開発者で、LangChain4j ライブラリを手動で配線せずに LLM 駆動の機能 (チャット、要約、RAG、ツール使用) を追加したい方。

ライセンス: Apache 2.0。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト