stepfun-ai/SteptronOss

何を解決するか

StepTronOSS は、大規模言語モデルのトレーニングプロセスを簡素化する軽量なトレーニングフレームワークです。実験の管理の複雑さ、再現性の確保、および監督微調整（SFT）、検証可能な報酬からの強化学習（RLVR）、評価ワークフローにおけるイテレーションサイクルの高速化という課題に対処しています。

仕組み

このフレームワークは、実験をステートレスな設定で定義するモジュール式で構成された、設定駆動型のアーキテクチャを使用しています。動的な設定の検査と検証に特化したツール cfshow と、マルチタスク実験のオーケストレーションに mp_run を活用しています。分散トレーニングでは、レディスサーバーを用いてレンドヴォーズを実現し、マルチノード起動スクリプトを生成するツールも提供しています。PyTorch 以外の依存関係は最小限に抑えられ、FlashAttention や grouped GEMM といったオペレータレベルの置き換えを可能にすることで、GPU のパフォーマンスを最大化できます。

対象ユーザー

大規模言語モデルのトレーニングに取り組む研究者や開発者向けです。SFT、RLVR、評価の各段階で、迅速な研究イテレーションが可能な、高速で再現性があり拡張可能なシステムが必要な方々に適しています。

特徴

• 設定駆動型ワークフロー：動的検証（sanity_check）を備えたモジュール式設定を使用し、実験の一貫性を保証します。
• 最小限の依存関係：主に PyTorch で動作し、依存関係は最小限です。
• マルチタスクオーケストレーション：シングルタスクおよびマルチタスク実験の両方に対応する柔軟な起動ツールを提供します。
• パフォーマンス最適化：FlashAttention および grouped_gemm を通じたオペレータレベルの加速をサポートします。
• AIネイティブ開発：AGENTS.md を通じて AI エージェントがコード変更に貢献するためのガイダンスを含んでいます。