ollama4j/ollama4j

Ollama4j – Ollama LLM 서버를 위한 Java 클라이언트

What it is – Ollama 서버(오픈 소스, 로컬 실행 LLM 런타임)와 통신하는 순수 Java 라이브러리입니다. Java 애플리케이션에서 텍스트를 생성하고, 채팅 세션을 실행하고, 도구를 호출하고, 임베딩을 처리하며, 기반 모델이 비전 기능을 지원하는 경우 이미지까지 처리할 수 있습니다.

Key capabilities

• Text generation – 단일 턴 generate 호출, 선택적 스트리밍, 그리고 타입 안전한 옵션 빌더.

• Chat – 역할 처리 및 Chain-of-Thought 스타일의 출력을 위한 "思考" 모드(thinking mode)를 지원하는 멀티 턴 대화.

• Tool/function calling – Java 메서드에 어노테이션을 붙여 LLM이 호출할 수 있는 도구로 노출시키거나, 외부 도구를 위한 MCP 프로토콜을 지원합니다.

• Multimodal – 비전 기능이 있는 모델에 이미지를 입력으로 전송합니다.

• Embeddings – 임의의 텍스트에 대한 벡터 임베딩을 얻습니다.

• Async fire‑and‑forget generation – 전체 응답을 기다리지 않고 요청을 시작합니다.

• Model management – Ollama 서버의 모델을 목록화, pull, 생성, 삭제 및 검사합니다.

• Server utilities – 서버 핑(ping) 및 프로세스 상태를 조회합니다.

• -

• Authentication – 기본 인증(basic auth) 또는 bearer token.

• Timeouts & logging – 구성 가능한 네트워크 타임아웃 및 요청/응답 훅(hooks).

• Metrics – 요청 횟수, 지연 시간, 모델 사용량을 위한 선택적 Prometheus 메트릭 익스포터(beta).

How it works – 이 라이브러리는 Ollama의 REST API를 얇게 래핑한 HTTP wrapper입니다. Java 코드는 ollama4j 의존성을 (Maven Central, GitHub Packages, 또는 Gradle을 통해) 추가하고, 로컬 서버(예: http://localhost:11434)를 가리키는 Ollama 클라이언트를 생성한 다음, 라이브러리가 제공하는 고수준 메서드를 호출합니다. 모든 통신은 표준 HTTP를 통해 이루어지므로, 모든 Ollama 서버 버전 0.11.10+ 가 작동합니다.

Getting started

<!-- Maven example -->
<dependency>
  <groupId>io.github.ollama4j</groupId>
  <artifactId>ollama4j</artifactId>
  <version>/* latest release */</version>
</dependency>

```java
Ollama ollama = new Ollama("http://localhost:11434");
GenerateResponse resp = ollama.generate("phi", "Explain quantum tunnelling.");
System.out.println(resp.getResponse());

The README 链接至 另一个 ollama4j‑examples 리포지토리를 통해 전체 코드 스니펫을 확인할 수 있습니다.

Who’s using it – Datafaker, Vaadin UI 테스터, Minecraft 插件/mods, Spring‑Boot Web UI, Jenkins CLI 도구, 그리고 여러 기타 오픈 소스 프로젝트.

Development & contribution – 프로젝트는 개발 환경 설정, 빌드, 테스트(로컬 유닛 테스트; 통합 테스트는 Testcontainers를 통해 Ollama Docker 컨테이너를 실행합니다)를 위해 make 숏컷을 사용합니다. CI는 유닛/통합 테스트, 코드 커버리지, 그리고 Sonar quality gates를 실행합니다. GitHub issues, PRs, 그리고 discussions를 통해 기여를 환영합니다.

Where to learn more – 전체 API 문서, 사용 가이드, 그리고 버전별 출시물은 프로젝트 웹사이트 (https://ollama4j.github.io/ollama4j/) 및 GitHub 리포지토리를 참조하십시오.