OpenMOSS/MOSS

解决的问题

MOSS 是一个开源的双语（中文-英文）对话语言模型，旨在提供一个能够流利进行双语（中文和英文）交流并使用工具的、有帮助、诚实且无害的 AI 助手。它解决了对高质量、开源权重模型的需求，这些模型能够遵循复杂指令，并与外部工具交互，以提供更准确、更真实的回答。

如何工作

基于 160 亿参数架构，moss-moon 系列在约 7000 亿个中文、英文和代码标记上进行预训练。该模型经过多阶段训练流程：自监督预训练、在超过 110 万轮对话数据上的监督微调（SFT），以及偏好训练以提升稳定性、安全性和事实性。针对工具使用，特定的插件增强版本在 30 万轮插件增强对话数据上进行训练，使模型能够在生成最终回答前，生成内部思考和特定命令来调用外部 API（如搜索引擎、计算器、方程求解器）。

适用人群

适用于希望在本地部署双语大模型或针对特定任务进行微调的开发者和研究人员。适用于从单张 A100/A800 GPU 到消费级 NVIDIA 3090（尤其是使用 INT4/INT8 量化版本时）的各类硬件环境。

主要亮点

• 双语能力：在中文和英文中均能流利交流。
• 工具集成：原生支持插件，包括网页搜索、计算器、方程求解器和文本生成图像。
• uma 量化：提供 FP16、INT8 和 INT4 精度版本，降低本地部署的硬件门槛。
• 开放生态：不仅提供模型，还提供训练所用的 SFT 和偏好数据集。