Muse Glimmer 發佈:Meta Superintelligence Labs 的 30B Agentic Multimodal Model

Meta Superintelligence Labs 已發佈 Muse Glimmer,這是一款專為本地 Agent 工作負載設計的 30B 多模態模型。該模型已在 Ollama 上推出,採用 Apache 2.0 授權,為編碼 Agent 和個人助理提供高上下文、開源權重的替代方案。

為編碼 Agent 和助理提供的本地部署方案

Muse Glimmer 經過優化,可為在本地運行的 Agentic 應用程式提供動力。它支援 128K+ token 的上下文長度,並可透過 ollama launch 指令與多個 Agent 框架和個人助理工具相容。

支援的整合包括:

  • Coding Agents:Claude Code, Codex, Pi, 以及 OpenCode。
  • Personal Assistants:OpenClaw 與 Hermes。
  • General Integrations:GitHub Copilot 以及 Ollama 整合文件中所列的其他工具。

可控的推理強度

Muse Glimmer 允許使用者調整推理強度,以平衡效能與速度。該模型支援四種不同的等級:

  • High and XHigh:建議用於複雜的編碼和 Agentic 任務。
  • Low and Medium:建議用於以執行速度為優先指標的場景。

透過 MLX Engine 進行 Apple Silicon 優化

在 Apple Silicon 上,Muse Glimmer 透過 Ollama 的 MLX engine 實現了頂尖的效能。此實作引入了兩項主要的技術增強:

DFlash Support

在先前多 token 預測 (MTP) 支援的基礎上,MLX engine 現在支援 DFlash。這項技術使 Muse Glimmer 在 Apple Silicon 硬體上運行速度提升了 1.5–1.8×。

原生圖像理解能力

Muse Glimmer 配備了專用的 1.8B-parameter perception encoder,提供原生的圖像理解能力。MLX engine 的新圖像輸入支援讓編碼 Agent 可以針對圖像任務執行低延遲、序列化的工具調用,包括:

  • 將繪圖或原型圖轉換為網站和應用程式。
  • 透過截圖驅動電腦使用 (computer-use) 應用程式。
  • 從文件、收據和圖表中提取數據。

Sources

相關

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch