ollama4j/ollama4j

A simple Java library for interacting with Ollama server.

What it solves

Ollama4j 提供了一種 Java 原生的方式來與 Ollama 伺服器互動，讓 Java 開發者無需再手動編寫針對 Ollama REST API 的 HTTP 請求。它作為一個型別安全的封裝器與綁定，簡化了將本地 LLM 整合至 Java 應用程式的過程。

How it works

此函式庫作為一個用戶端封裝器，直接與 Ollama 伺服器進行通訊。它提供結構化的 Java API 來管理模型、發送提示詞（prompts）並處理回應，將 Java 方法呼叫轉換為 Ollama 後端所需的適當 API 請求。

Who it’s for

想要將本地大型語言模型（LLMs）整合至其軟體專案（例如 Minecraft mod、網頁 UI 或資料生成工具）中，且不想處理原始 REST API 呼叫的 Java 開發者。

Highlights

Comprehensive LLM Features: 支持單輪文本生成、帶有歷史紀錄的對話模式，以及推理/思考模式。
Advanced Tooling: 包含透過註解（annotations）實現的內建工具/函式呼叫，以及對 Model Context Protocol (MCP) 的支援。
Multimodal Capabilities: 支持具備視覺能力的模型的圖像輸入。
Model Management: 提供直接從 Java 進行 pull、create、delete 與 list 模型的操作工具。
Developer Utilities: 提供型別安全的選項構建器（options builder）、非同步生成 API，以及用於效能監控的內建 Prometheus metrics。"},