stepfun-ai/SteptronOss

What it solves

StepTronOSS는 대규모 언어 모델 트레이닝 프로세스를 단순화하기 위해 설계된 경량 트레이닝 프레임워크입니다. 실험 관리의 복잡성을 해결하고, 재현성을 보장하며, SFT (Supervised Fine-Tuning), RLVR (Reinforcement Learning from Verifiable Rewards) 및 평가 워크플로우의 반복 주기를 가속화합니다.

How it works

이 프레임워크는 실험이 상태가 없는(stateless) 구성으로 정의되는 모듈식, 구성 기반 아키텍처를 사용합니다. 동적 구성 검사 및 검증을 위해 cfshow라는 전문 도구를 사용하며, mp_run을 통해 멀티태스크 실험을 오케스트레이션합니다. 분산 트레이닝의 경우, rendezvous를 위해 Redis server를 사용하며 멀티노드 실행 스크립트를 생성하는 도구를 제공합니다. PyTorch만으로도 실행 가능하지만, GPU 성능을 극대화하기 위해 연산자 수준의 교체(예: FlashAttention 및 grouped GEMM)를 허용합니다.

Who it’s for

다양한 트레이닝 단계에서 빠른 연구 반복을 위한 빠르고 재현 가능하며 확장 가능한 시스템이 필요한 대규모 언어 모델 트레이닝 연구원 및 개발자를 대상으로 합니다.

Highlights\n

• Config-driven workflow: 동적 검증 (sanity_check)이 포함된 모듈식 구성을 사용하여 실험 일관성을 보장합니다.

• Cores dependency: 최소한의 의존성, 주로 PyTorch 기반으로 실행됩니다.

• Multi-task orchestration: 단일 및 멀티태스크 실험을 위한 유연한 실행 도구.

• Performance optimizations: FlashAttention 및 grouped_gemm을 통한 연산자 수준의 가속을 지원합니다.

• AI-native development: AGENTS.md를 통해 AI 에이전트가 코드 변경에 기여할 수 있는 가이드라인을 포함합니다.