ollama4j/ollama4j

A simple Java library for interacting with Ollama server.

What it solves

Ollama4j 提供了一种 Java 原生的方式来与 Ollama 服务器进行交互，消除了 Java 开发者需要手动编写针对 Ollama REST API 的 HTTP 请求的需求。它作为一个类型安全的封装器和绑定，简化了将本地 LLM 集成到 Java 应用中的过程。

How it works

该库作为一个客户端封装器，直接与 Ollama 服务器进行通信。它提供结构化的 Java API 来管理模型、发送提示词（prompts），并处理响应，将 Java 方法调用转换为 Ollama 后端所需的适当 API 请求。

Who it’s for

想要将本地大语言模型（LLMs）集成到其软件项目（例如 Minecraft mods、Web UIs 或数据生成工具）中，且不想处理原始 REST API 调用中的 Java 开发者。

Highlights

Comprehensive LLM Features: 支持单轮文本生成、带历史记录的多轮对话，以及推理/思考模式。
Advanced Tooling: 包含通过注解（annotations）实现的内置工具/函数调用，以及对 Model Context Protocol (MCP) 的支持。
Multimodal Capabilities: 支持具备视觉能力的模型的图像输入。
Model Management: 提供直接从 Java 进行 pull、create、delete 和 list 模型的实用工具。
Developer Utilities: 提供类型安全的选项构建器（options builder）、异步生成 API，以及用于性能监控的内置 Prometheus metrics。"},