HELPMEEADICE/TE-Speed-MiniMaxH3-OSS

解決的問題

本專案減少 ComfyUI 內 MiniMax H3 模型的推論時間，在不顯著降低影像或影片品質的情況下，實現最高達 45% 的加速。

工作原理

該插件透過自訂鈎子攔截 50 層 DiT（擴散 Transformer）的區塊迴圈。它區分兩種類型的步驟：

• 完整步驟：模型處理所有區塊，並儲存一個「殘差」（完整輸出與部分「預熱」輸出之間的差異）。
• 快取步驟：當步驟間的 sigma 差異較小且處於特定視窗內時，模型僅重新計算預熱區塊，並加入先前儲存的殘差以補償漂移。

為防止誤差累積，系統限制連續快取步驟的最大數量（mcs），並確保每個取樣回合的第一步始終是完整步驟。

適用對象

在 ComfyUI 中運行 MiniMax H3 模型，並希望在控制速度與品質權衡的前提下更快生成內容的使用者。

主要亮點

• 顯著提速：在典型工作流程中（例如 30 步，8 秒影片）提供最高達 45% 的加速。
• 靈活控制：使用者可調整快取視窗（起始/結束百分比）、sigma 差異閾值和快取深度，以平衡穩定性與速度。
• 記憶體管理：支援將快取的殘差移至 CPU 以節省 VRAM。
• 輕鬆整合：包含一個補丁腳本，可對 ComfyUI 模型檔案進行最小變更即可完成修改。