modelscope/easydistill

它解決的問題

EasyDistill 2 是一個以設定為導向的工具包，專門用於將黑箱教師模型轉換為高品質的訓練資料。它透過自動化產生與優化用於監督式微調（SFT）和直接偏好優化（DPO）的資料集，簡化知識蒸餾的流程。

如何運作

該工具包採用管道式方法，將原子操作（如產生、評估、過濾、重寫、平衡與偏好評分）組合成端到端的工作流程。這些管道可透過 YAML 檔案進行設定，以產生多種類型的訓練資料，包括文字指令、思考鏈（CoT）推理、多模態對話以及代理行為軌跡。它與後端無關，支援任何 OpenAI 兼容的端點（例如 vLLM、Azure OpenAI），以及針對影像與影片產生的專用後端。

適用對象

適合希望利用大型專有或開源教師模型的知識，創造高品質合成資料集，以訓練較小且專門化的模型的開發人員與研究人員。

主要特色

• 多模態支援：可針對文字、視覺語言、文字轉影像（T2I）與文字轉影片（T2V）任務進行資料蒸餾。
• 可組合的管道：提供現成的端到端管道，以及單獨的操作元件，以支援自訂資料策略。
• 代理式蒸餾：能使用 LangGraph ReAct 迴圈合成虛擬工具使用任務與多輪代理行為軌跡。
• 訓練就緒輸出：以 LLaMA-Factory 與 ms-swift 兼容的格式匯出資料。
• 多樣化的資料類型：可產生 SFT 資料集、DPO 偏好配對與複雜的推理軌跡（CoT）。