NVIDIA-NeMo/Skills

解决的问题

Nemo-Skills 提供了一套统一的流水线，用于提升大语言模型的特定能力（"技能"）。它简化了 LLM 开发的整个生命周期，包括合成数据生成、模型训练和全面评估，同时允许开发者从单台本地工作站轻松扩展到大规模 Slurm 集群，仅需极少的配置更改。

工作原理

该项目作为一系列集成多种工具和流程的流水线运行：

• 推理：支持灵活的 LLM 推理，可在 API 提供商、本地服务器和大规模集群任务之间切换。与高性能引擎如 TensorRT-LLM、vLLM、sglang 和 Megatron 集成。
• 评估：提供一个框架，用于在涵盖数学（自然与形式化）、代码、科学知识、指令遵循、长上下文、工具调用、多语言能力以及视觉-语言任务的广泛基准上运行模型。
• 训练：通过与 NeMo-RL 和 verl 的集成，支持模型训练。
• 数据生成：支持可扩展至数千个 GPU 的合成数据生成（SDG）。

适用人群

专为构建、调优和评估高性能 LLM 的 AI 研究人员和开发者设计，尤其适用于需要从本地原型开发扩展到大规模 GPU 集群的环境。

主要亮点

• 可扩展的基础设施：仅需一行代码更改，即可从本地机器迁移到 Slurm 集群。
• 广泛的基准支持：内置涵盖形式化数学、编程、科学推理等多样领域的评估功能。
• 灵活的推理：兼容多种行业标准推理引擎（如 vLLM、TensorRT-LLM 等）。
• 研究驱动：用于创建并发布 SOTA 开源权重模型和数据集，如 OpenReasoning 和 OpenMathReasoning。