OpenBMB/MiniCPM

解决的问题

MiniCPM 是一系列专为设备端、本地部署及资源受限环境设计的轻量级高性能语言模型。它旨在 1B 至 2B 参数级别提供最先进（SOTA）的性能，让边缘设备无需依赖庞大的云端基础设施，即可实现编程、数学运算与代理任务等强大的 AI 能力。

运作原理

该项目采用密集 Transformer 架构（具体为 LlamaForCausalLM）以及名为 UltraData Tiered Data Management 的复杂训练流程。此过程包含三个阶段：

1. 基础训练 (Base Training)：建立核心语言稳定性与能力。
2. 中期训练 (Mid-training)：强化特定目标能力，并使模型适应目标数据分布。
3. 后期训练 (Post-training)：采用深度思考数据进行监督式微调（SFT）、使用基于评论者的算法进行强化学习（RL），以及通过策略内蒸馏（OPD）将多个专家 RL 模型的能力合并为单一发布模型。

适用对象

适用于开发本地助理、编程代理与工具使用工作流的开发者，以及需要在运算资源受限环境下具备高推理能力的用户。

特色亮点

• 2B 级别 SOTA：MiniCPM5-2B 的性能超越其他同规模的开源模型，并与 4B 级别模型保持竞争力。
• 设备端优化：专为本地部署与资源受限场景打造。
• 长上下文支持：原生支持高达 131,072 个 token 的上下文长度。
• 开放高质量数据：发布配套训练数据集（如 UltraX, UltraData-Code 等）以支持社区。
• 广泛的部署支持：兼容于 vLLM, SGLang, Llama.cpp 与 Transformers。