modelscope/easydistill

解決する課題

EasyDistill 2は、ブラックボックスのティーチャーモデルを高品質なトレーニングデータに変換するために設計された、設定駆動型のツールキットです。教師ありファインチューニング（SFT）や直接選好最適化（DPO）に使用されるデータセットの生成と洗練を自動化することで、知識蒸留のプロセスを簡素化します。

仕組み

このツールキットは、生成、評価、フィルタリング、書き換え、バランシング、選好スコアリングなどのアトミックオペレーターをエンドツーエンドのワークフローに構成する、パイプラインベースのアプローチを採用しています。これらのパイプラインはYAMLファイルで設定でき、テキスト指示、思考の連鎖（CoT）推論、マルチモーダル会話、エージェントの軌跡など、さまざまな種類のトレーニングデータを生成できます。バックエンドに依存しない設計となっており、OpenAI互換のエンドポイント（vLLM、Azure OpenAIなど）や、画像および動画生成用の専用バックエンドをサポートしています。

想定ユーザー

より大規模なプロプライエタリまたはオープンソースのティーチャーモデルの知識を活用し、より小規模で専門特化したモデルを訓練するための、高品質な合成データセットを作成したい開発者や研究者向けに設計されています。

ハイライト

• マルチモーダルサポート: テキスト、ビジョン言語、テキストから画像（T2I）、テキストから動画（T2V）の各タスク向けにデータを蒸留します。
• 構成可能なパイプライン: すぐに使えるエンドツーエンドのパイプラインと、カスタムデータ戦略用の個別オペレーターの両方を提供します。
• エージェント的蒸留: LangGraph ReActループを使用して、仮想ツール使用タスクや複数ターンのエージェント軌跡を合成できます。
• トレーニング対応出力: LLaMA-Factoryやms-swiftと互換性のある形式でデータをエクスポートします。
• 多様なデータ型: SFTデータセット、DPO選好ペア、および複雑な推論軌跡（CoT）を生成します。