quarkiverse/quarkus-langchain4j
Quarkus Langchain4j extension
Quarkus LangChain4j – クイック概要
これは何か: LangChain4j ライブラリを介して大規模言語モデル (LLM) 機能を Quarkus アプリケーションに直接組み込むための一連の Quarkus 拡張機能です。実際には、Maven アーティファクトを追加し、プロバイダー (OpenAI、Ollama、Hugging Face など) を設定すると、他の Quarkus Bean と同様に、LLM の呼び出し、埋め込みの操作、ドキュメントの取得、宣言的 AI サービス の公開が可能になります。
主な機能
- 宣言的 AI サービス – インターフェースを定義すると、拡張機能が LLM を利用した実装を生成します。
- マルチ LLM サポート – OpenAI GPT、Hugging Face モデル、Ollama など。
- ツールと埋め込みの統合 – LLM 駆動のツールを使用し、ベクトル埋め込みを作成/照会します。
- ドキュメントストア – RAG スタイルの取得のために Redis、Chroma、Infinispan などに接続します。
- ネイティブコンパイル – フットプリントの小さいデプロイメントのために Quarkus ネイティブイメージで動作します。
- 可観測性 – Quarkus の組み込みスタックによるメトリクスとトレーシング。
- プラグ可能な認証 – 基盤となるモデル API の柔軟な認証。
はじめに 適切な Maven 依存関係を追加します。例:
<dependency>
<groupId>io.quarkiverse.langchain4j</groupId>
<artifactId>quarkus-langchain4j-openai</artifactId>
<version>1.15.0.CR1</version>
</dependency>
その後、API キーを設定し、生成された AI サービス Bean を使用します。
詳細情報
- 完全なドキュメント: https://docs.quarkiverse.io/quarkus-langchain4j/dev/index.html
- サンプルプロジェクトと統合テストは、リポジトリの
samples/とintegration-tests/にあります。
対象読者 Quarkus でマイクロサービスを構築する Java 開発者で、LangChain4j ライブラリを手動で配線せずに LLM 駆動の機能 (チャット、要約、RAG、ツール使用) を追加したい方。
ライセンス: Apache 2.0。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト