NVIDIA-NeMo/Skills

해결하는 문제

Nemo-Skills는 대규모 언어 모델의 특정 능력("스킬")을 향상시키기 위한 통합된 파이프라인 세트를 제공합니다. 로컬 워크스테이션에서부터 대규모 Slurm 클러스터까지 최소한의 구성 변경으로 워크플로우를 확장할 수 있도록, 합성 데이터 생성, 모델 훈련, 포괄적인 평가를 포함한 LLM 개발 전 생애 주기를 간소화합니다.

작동 방식

이 프로젝트는 다양한 도구와 프로세스를 통합하는 파이프라인의 컬렉션으로 작동합니다.

• 추론: API 제공자, 로컬 서버, 대규모 클러스터 작업 간에 유연하게 전환 가능한 LLM 추론을 지원합니다. 고성능 엔진인 TensorRT-LLM, vLLM, sglang, Megatron과 통합되어 있습니다.
• 평가: 수학(자연 및 형식적), 코드, 과학 지식, 지시 따르기, 긴 컨텍스트, 도구 호출, 다국어 능력, 시각-언어 작업을 포함한 다양한 벤치마크에 대해 모델을 실행할 수 있는 프레임워크를 제공합니다.
• 훈련: NeMo-RL 및 verl과의 통합을 통해 모델 훈련을 가능하게 합니다.
• 데이터 생성: 수천 개의 GPU에 걸쳐 확장 가능한 합성 데이터 생성(SDG)을 지원합니다.

대상 사용자

특히 로컬 프로토타이핑에서 대규모 GPU 클러스터로 확장이 필요한 환경에서 고성능 LLM을 구축, 튜닝, 평가하는 AI 연구자 및 개발자에게 적합합니다.

주요 특징

• 확장 가능한 인프라: 로컬 머신에서 Slurm 클러스터로 1줄의 변경만으로 이동 가능.
• 광범위한 벤치마크 지원: 형식적 수학, 코딩, 과학적 추론 등 다양한 분야의 내장 평가 기능.
• 유연한 추론: vLLM, TensorRT-LLM 등 여러 산업 표준 추론 엔진과 호환.
• 연구 중심: OpenReasoning 및 OpenMathReasoning과 같은 SOTA 오픈웨이트 모델 및 데이터셋의 생성 및 공개에 사용됨.