HELPMEEADICE/TE-Speed-MiniMaxH3-OSS

MiniMax-H3超级缓存加速插件

解决的问题

该项目减少了 ComfyUI 中 MiniMax H3 模型的推理时间,在不显著降低图像或视频质量的前提下,实现了最高达 45% 的加速。

工作原理

该插件通过自定义钩子拦截 50 层 DiT(扩散 Transformer)的块循环。它区分两种类型的步骤:

  • 完整步骤:模型处理所有块,并保存一个「残差」(完整输出与部分「预热」输出之间的差异)。
  • 缓存步骤:当步骤间的 sigma 差异较小时且处于特定窗口内时,模型仅重新计算预热块,并添加之前保存的残差以补偿漂移。

为防止误差累积,系统限制连续缓存步骤的最大数量(mcs),并确保每个采样轮次的第一步始终是完整步骤。

适用人群

在 ComfyUI 中运行 MiniMax H3 模型并希望在控制速度与质量权衡的前提下更快生成内容的用户。

主要亮点

  • 显著提速:在典型工作流中(例如 30 步,8 秒视频)提供最高达 45% 的加速。
  • 灵活控制:用户可调整缓存窗口(起始/结束百分比)、sigma 差异阈值和缓存深度,以平衡稳定性和速度。
  • 内存管理:支持将缓存的残差移至 CPU 以节省 VRAM。
  • 轻松集成:包含一个补丁脚本,可对 ComfyUI 模型文件进行最小改动即可完成修改。

相关

  • 项目
  • 项目
  • 项目
  • 项目