NVIDIA-NeMo/Skills

解決的問題

Nemo-Skills 提供一組統一的流程，用以提升大型語言模型的特定能力（「技能」）。它簡化了 LLM 開發的整個生命週期，包括合成資料生成、模型訓練與全面評估，同時讓開發者能從單一本地工作站輕鬆擴展至大型 Slurm 集群，僅需極少的設定變更。

如何運作

此專案作為一組整合各種工具與流程的流程集合運作：

• 推論：支援靈活的 LLM 推論，可在 API 提供者、本地伺服器與大型叢集工作之間切換。整合高效率引擎如 TensorRT-LLM、vLLM、sglang 與 Megatron。
• 評估：提供一個框架，可在涵蓋數學（自然與形式化）、程式碼、科學知識、指令遵循、長上下文、工具呼叫、多語言能力與視覺-語言任務的廣泛基準上運行模型。
• 訓練：透過與 NeMo-RL 和 verl 的整合，支援模型訓練。
• 資料生成：支援可擴展至數千個 GPU 的合成資料生成（SDG）。

適用對象

專為建構、調校與評估高效率 LLM 的 AI 研究人員與開發者設計，特別適合需要從本地原型開發擴展至大型 GPU 叢集的環境。

主要亮點

• 可擴展的基礎設施：僅需一行變更，即可從本地機器遷移至 Slurm 叢集。
• 廣泛的基準支援：內建涵蓋形式化數學、程式設計與科學推理等多樣領域的評估功能。
• 靈活的推論：相容多種業界標準推論引擎（如 vLLM、TensorRT-LLM 等）。
• 研究導向：用於創造並發布 SOTA 開源權重模型與資料集，如 OpenReasoning 與 OpenMathReasoning。