OpenBMB/MiniCPM

解決的問題

MiniCPM5-1B 是一款緊湊的 1B 參數密集型 Transformer 模型，專為資源受限場景下的端側與本地部署而設計。其目標是在同規模模型中提供最先進（SOTA）的性能，特別是在需要較小記憶體佔用空間的推理、程式碼編寫與工具使用工作流中。

工作原理

該模型基於標準的 LlamaForCausalLM 架構構建，透過三個階段進行訓練：基礎訓練、中期訓練與後期訓練。後期訓練階段結合了使用深度思考（deep-thinking）與混合思考（hybrid-thinking）數據的監督微調（SFT）、用於提高推理與可靠性的強化學習（RL），以及將專業 RL 教師的知識蒸餾到單個發布模型中的在線策略蒸餾（OPD）。

它具有混合推理系統，透過內建的 <think> 對話範本與 enable_thinking 開關，單個檢查點既可以作為快速助手，也可以作為深思熟慮的推理器。

適用對象

• 本地 AI 開發者：正在構建端側助手、程式碼代理或工具使用工作流的人員。
• 邊緣運算使用者：需要高性能 LLM 但硬體資源有限的使用者。
• ML 工程師：正在尋找能夠輕鬆整合至 vLLM、SGLang 與 Transformers 等主流推理引擎而無需自定義核心的模型。

亮點

• 1B 級 SOTA：在推理、程式碼編寫與智能體工具使用方面優於其他同尺寸的開源模型。
• 混合推理：在同一個模型檢查點內同時支援「思考（Think）」與「不思考（No Think）」模式。
• 標準架構：使用 LlamaForCausalLM，確保與大多數主流推理後端（vLLM、SGLang、llama.cpp 等）的相容性。
• 面向智能體的部署：為 Cursor 與 Claude Code 提供專門的「智能體技能（Agent Skills）」，以實現部署與微調工作流的自動化。
• 原生工具呼叫：發出 XML 風格的工具呼叫，並在 SGLang 中提供用於 OpenAI 相容轉換的原生支援。