Hugging Face ML Intern:自动化模型开发与蒸馏

Hugging Face 已展示 ML Intern 的能力,这是一个集成在 HuggingChat 中的代理工具,可自动化端到端的机器学习流程。通过提供详细的自然语言提示,用户可以指派 ML Intern 识别数据集、选择基础模型、执行训练脚本、进行评估,并将最终模型直接发布到 Hugging Face Hub。

自动化 ML 工作流与提示策略

ML Intern 作为一个自主代理,会规划开发工作,在花费前向用户请求特定预算,运行烟雾测试以验证权重是否发生变化,并在 Hugging Face 硬件上执行完整的训练和评估流程。

为了最大化代理的效率,建议采用结构化提示方法:

  • 想法与理由:从对所需模型的清晰陈述以及其必要性的说明开始。
  • 规格说明:明确命名数据集、基础模型和训练脚本。
  • 已验证的事实:包含一个标题为“已验证的事实,不要重新推导”的部分,以防止代理浪费计算预算去重新发现已知信息。
  • 基线要求:请求基础模型在目标指标上的零样本得分,以量化训练后的实际提升。
  • 烟雾测试:强制进行小规模初始运行(例如 50 个训练步骤),并检查保存的权重是否发生变化,再决定是否投入完整训练。
  • 预算控制:定义严格的支出上限(例如“将总支出控制在 12 美元以内”),代理必须遵守,超出时需请求许可。

模型创建案例研究

在几天内,使用 ML Intern 在不同模态和应用场景中开发了多个专用模型:

领域特定的视觉模型

ML Intern 对 Qwen3.5-2B 进行微调,创建了 citrus-disease-vlm,该模型能够识别柑橘植物中的 21 种不同害虫、疾病和营养缺乏。在一台 A10G GPU 上经过两个周期训练后,基础模型在 335 张测试照片上的准确率从 14.9% 提升至 52.8%,成本约为 1.90 美元。

特定角色的 LoRAs

使用 84 张带字幕的插图,在 FLUX.2 klein base 4B 上训练了一个 LoRA,创建了一个能一致渲染特定品牌角色“Huggy”的模型。该过程每 100 步保存一次检查点,以找到角色保真度与风格溢出之间的最佳平衡,成本约为 7.60 美元。

功能性图像 LoRAs

为 Qwen-Image 2.1 开发了两个专用 LoRA:

  • Viewpoint Orbit LoRA:该模型允许用户请求从特定角度查看物体。ML Intern 使用 1,030 个扫描物体渲染了 24,722 张透明图像以创建训练集。该项目成本约为 16 美元。
  • Doodle-in LoRA:该模型将照片中的洋红色涂鸦替换为特定物体,同时保持光照和构图不变。ML Intern 使用 LaMa 填充模型合成了一组包含 6,042 个训练对的数据集。该项目成本约为 24.30 美元。

模型蒸馏与压缩

ML Intern 被用于创建现有模型的更小、更高效的版本:

  • Pocket Rewriter:基于 9B 的 Qwen-Image 2.1 提示重写器,创建了 0.8B 和 2B 的学生版本。0.8B 版本可在 CPU 上运行,99.7% 的时间返回有效输出,同时仅使用教师模型四分之一的 token。总计算成本为 16.05 美元。
  • Agate 4-step:对 Logolabs 的 Agate Preview 002(260M 参数)进行蒸馏。原模型需要 50 步;ML Intern 将其压缩至 4 步。经过两次训练运行,GenEval 得分从 0.509 提升至 0.536(教师模型在 50 步时为 0.563),计算量减少 75%。总成本为 37 美元。

资源与成本汇总

在六个项目中,GPU 和 CPU 任务的总计算成本约为 103 美元。

模型 基础模型 计算成本
Citrus Doctor Qwen3.5-2B 1.90 美元
Huggy LoRA FLUX.2 klein base 4B 7.60 美元
Pocket Rewriter (0.8B & 2B) Qwen3.5-0.8B & 2B 16.05 美元
Viewpoint Orbit LoRA Qwen-Image 2.1 16 美元
Doodle-in LoRA Qwen-Image 2.1 24.30 美元
Agate 4-step Agate Preview 002 37 美元
总计 ~103 美元

Sources