Ollama 編碼模型與整合更新

Ollama 已發布 GLM-4.6 與 Qwen3-Coder-480B 模型的雲端存取功能,同時更新了 Qwen3-Coder-30B 模型以改進工具呼叫(tool calling)能力。這些更新透過 Ollama 的雲端服務與本地部署選項,擴展了高效能編碼模型的可用性。

新編碼模型與可用性

Ollama 現在提供多種不同部署選項的高容量編碼模型:

  • GLM-4.6: 可透過 Ollama 的雲端服務使用,指令為 ollama run glm-4.6:cloud
  • Qwen3-Coder-480B: 可透過雲端服務使用,指令為 ollama run qwen3-coder:480b-cloud。對於 VRAM 超過 300GB 的使用者,此模型也可用於本地部署,名稱為 qwen3-coder:480b
  • Qwen3-Coder-30B: 此模型可透過 ollama run qwen3-coder:30b 在本地使用,並已在 Ollama 的新引擎中進行更新,以提供更快且更可靠的工具呼叫功能。

IDE 與工具整合

Ollama 已擴展其對熱門編碼工具的支持,允許使用者拉取雲端模型並將其直接整合到開發環境中:

VS Code

要在 VS Code 中使用 GLM-4.6 或 Qwen3-Coder-480B,使用者必須先拉取雲端模型(ollama pull glm-4.6:cloudollama pull qwen3-coder:480b-cloud)。整合是透過 Copilot 聊天側邊欄進行管理,在「管理模型」(Manage models)選單中將 Ollama 設為提供者(provider)。

Zed

Zed(現已支援 Windows)支援 Ollama 整合。在拉取雲端模型後,使用者可以在代理面板(agent panel)中將 LLM 提供者配置為 Ollama,並使用主機 URL http://localhost:11434 進行連接。

Droid

Droid 整合需要安裝 Droid CLI 並在 ~/.factory/config.json 檔案中加入特定配置。此配置定義了 GLM-4.6 與 Qwen3-Coder-480B 的 model_display_namebase_url (http://localhost:11434/v1) 以及 max_tokens (16,384)。

雲端 API 存取

雲端模型,包括 glm-4.6qwen3-coder:480b,可直接透過 ollama.com 雲端 API 存取。這需要使用者在設定中建立 API 金鑰,並設定 OLLAMA_API_KEY 環境變數。請求會使用 Bearer token 進行授權,並發送到 https://ollama.com/api/chat 端點。

支援的整合生態系統

Ollama 的官方文件現在包含針對以下工具的專屬整合指南:

  • Codex
  • Cline
  • VS Code
  • Zed
  • Droid
  • Roo code

Sources

相關