ollama4j/ollama4j
A simple Java library for interacting with Ollama server.
What it solves
Ollama4j は、Ollama サーバーとやり取りするための Java ネイティブな方法を提供し、Java 開発者が Ollama REST API に対して手動で HTTP リクエストを記述する必要をなくします。型安全なラッパーおよびバインディングとして機能し、ローカル LLM を Java アプリケーションへの統合を簡法化します。
How it works
このライブラリは、Ollama サーバーと直接通信するクライアントサイドのラッパーとして機能します。モデルの管理、プロンプトの送信、レスポンスの処理を行うための構造化された Java API を提供し、 Java メソッド呼び出しを適切な Ollama バックエンド API リクエストに変換します。
Who it’s for
Minecraft モッド、Web UI、またはデータ生成ツールなど、ローカルの大規模言語モデル (LLM) をソフトウェアプロジェクトに統合したいが、生の REST API コールを扱うのが面倒な Java 開発者。
Highlights
- Comprehensive LLM Features: シングルターンテキスト生成、履歴付きマルチターンチャット、および推論/思考モードをサポート。
- Advanced Tooling: アノテーションによる組み込みのツール/関数呼び出し、および Model Context Protocol (MCP) のサポートを含む。
- Multimodal Capabilities: 画像入力に対応したビジョン対応モデルをサポート。
- Model Management: Java から直接モデルを pull、create、delete、list するためのユーティリティを提供。
- Developer Utilities: 型安全なオプションビルダー、非同期生成 API、およびパフォーマンス監視用の組み込み Prometheus metrics を提供。