Ollama v0.14.0: Anthropic API 호환성 및 Claude Code 지원

Ollama v0.14.0 및 이후 버전에서는 Anthropic Messages API와의 호환성을 도입하여, 사용자가 Anthropic의 에이전트 기반 코딩 도구인 Claude Code를 오픈 소스 모델로 실행할 수 있도록 합니다. 이번 업데이트를 통해 개발자는 Anthropic 생태계를 위해 설계된 도구를 사용하여 자신의 기기에서 로컬 모델을 활용하거나 ollama.com을 통해 클라우드 호스팅 모델을 활용할 수 있습니다.

Claude Code와 Ollama의 통합

Claude Code는 Anthropic에서 개발한 터미널 기반의 에이전트 기반 코딩 도구입니다. Anthropic API 지원을 구현함으로써, Ollama는 이제 Claude Code가 모든 Ollama 모델과 인터페이스할 수 있도록 지원합니다.

구성 및 설정

Ollama와 함께 Claude Code를 사용하려면, 사용자는 macOS, Linux, WSL 또는 Windows (PowerShell/CMD)용으로 제공되는 설치 스크립트를 통해 도구를 설치하고, 요청을 로컬 Ollama 인스턴스로 리다이렉션하기 위해 다음과 같은 환경 변수를 구성해야 합니다:

• ANTHROPIC_AUTH_TOKEN=ollama
• ANTHROPIC_BASE_URL=http://localhost:11434

설정이 완료되면, 로컬 사용을 위한 claude --model gpt-oss:20b 또는 클라우드 호스팅 모델을 위한 claude --model glm-4.7:cloud와 같이 특정 모델로 도구를 실행할 수 있습니다.

컨텍스트 길이 요구 사항

Ollama는 코딩 작업을 위해 최소 32K 토큰의 컨텍스트 길이를 가진 모델을 사용할 것을 권장합니다. Ollama의 클라우드 모델은 기본적으로 전체 컨텍스트 길이로 작동하지만, 로컬 사용자는 Ollama의 문서를 참조하여 컨텍스트 길이 설정을 조정해야 할 수도 있습니다.

코딩을 위한 권장 모델

Ollama는 배포 방식에 따라 Claude Code 사용에 적합한 특정 모델을 다음과 같이 식별합니다:

• 로컬 모델: gpt-oss:20b 및 qwen3-coder.
• 클라우드 모델: glm-4.7:cloud 및 minimax-m2.1:cloud.

Anthropic SDK 호환성

Claude Code 외에도, Anthropic SDK (Python 또는 JavaScript)를 사용하는 기존의 모든 애플리케이션은 base_url을 http://localhost:11434로 업데이트하고 API 키로 ollama를 제공함으로써(SDK에서 요구하지만 Ollama에서는 무시됨) Ollama에 연결할 수 있습니다.

도구 호출 지원

Ollama의 호환성 레이어는 도구 호출(함수 호출)을 지원하여 모델이 외부 시스템과 상호작용할 수 있도록 합니다. 이는 messages.create 호출 내에 tools 배열을 전달하여 도구의 이름, 설명 및 입력 스키마를 정의함으로써 달성됩니다.

지원되는 API 기능

Ollama v0.14.0은 다음과 같은 Anthropic Messages API의 몇 가지 주요 기능을 지원합니다:

• 멀티턴 대화 및 메시지
• 스트리밍 응답
• 시스템 프롬프트
• 도구 및 함수 호출
• 확장된 사고(Extended thinking)
• 비전(이미지 입력)