HELPMEEADICE/TE-Speed-MiniMaxH3-OSS

何を解決するか

このプロジェクトは、ComfyUI 内での MiniMax H3 モデルの推論時間を短縮し、画像や動画の品質を著しく損なわずに最大 45% の高速化を実現します。

動作方法

このプラグインは、カスタムフックを使用して 50 層の DiT（Diffusion Transformer）のブロックループを傍受します。2 種類のステップを区別します：

• フルステップ：モデルはすべてのブロックを処理し、「残差」（完全出力と部分的な「ウォームアップ」出力の差）を保存します。
• キャッシュステップ：ステップ間の sigma の差が小さく、特定のウィンドウ内にある場合、モデルはウォームアップブロックの再計算のみを行い、以前に保存された残差を加算してドリフトを補正します。

誤差の蓄積を防ぐために、システムは連続キャッシュステップの最大数（mcs）を制限し、各サンプリングラウンドの最初のステップは常にフルステップであることを保証します。

対象ユーザー

MiniMax H3 モデルを ComfyUI で使用し、品質と速度のトレードオフを制御しながらコンテンツ生成をより高速に行いたいユーザー。

主な特徴

• 大幅な高速化：通常のワークフロー（例：30 ステップ、8 秒の動画）で最大 45% の加速を実現。
• 柔軟な制御：キャッシュウィンドウ（開始/終了パーセンテージ）、sigma 差の閾値、キャッシュ深度を調整可能で、安定性と速度のバランスを取れます。
• メモリ管理：キャッシュされた残差を CPU に移動して VRAM を節約できます。
• 簡単な統合：ComfyUI のモデルファイルを最小限の変更で修正するパッチスクリプトを含んでいます。