Muse Glimmer 發佈:Meta Superintelligence Labs 的 30B Agentic Multimodal Model
Meta Superintelligence Labs 已發佈 Muse Glimmer,這是一款專為本地 Agent 工作負載設計的 30B 多模態模型。該模型已在 Ollama 上推出,採用 Apache 2.0 授權,為編碼 Agent 和個人助理提供高上下文、開源權重的替代方案。
為編碼 Agent 和助理提供的本地部署方案
Muse Glimmer 經過優化,可為在本地運行的 Agentic 應用程式提供動力。它支援 128K+ token 的上下文長度,並可透過 ollama launch 指令與多個 Agent 框架和個人助理工具相容。
支援的整合包括:
- Coding Agents:Claude Code, Codex, Pi, 以及 OpenCode。
- Personal Assistants:OpenClaw 與 Hermes。
- General Integrations:GitHub Copilot 以及 Ollama 整合文件中所列的其他工具。
可控的推理強度
Muse Glimmer 允許使用者調整推理強度,以平衡效能與速度。該模型支援四種不同的等級:
- High and XHigh:建議用於複雜的編碼和 Agentic 任務。
- Low and Medium:建議用於以執行速度為優先指標的場景。
透過 MLX Engine 進行 Apple Silicon 優化
在 Apple Silicon 上,Muse Glimmer 透過 Ollama 的 MLX engine 實現了頂尖的效能。此實作引入了兩項主要的技術增強:
DFlash Support
在先前多 token 預測 (MTP) 支援的基礎上,MLX engine 現在支援 DFlash。這項技術使 Muse Glimmer 在 Apple Silicon 硬體上運行速度提升了 1.5–1.8×。
原生圖像理解能力
Muse Glimmer 配備了專用的 1.8B-parameter perception encoder,提供原生的圖像理解能力。MLX engine 的新圖像輸入支援讓編碼 Agent 可以針對圖像任務執行低延遲、序列化的工具調用,包括:
- 將繪圖或原型圖轉換為網站和應用程式。
- 透過截圖驅動電腦使用 (computer-use) 應用程式。
- 從文件、收據和圖表中提取數據。
Sources
相關
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch