chengzeyi/Comfy-WaveSpeed

解決的問題

Comfy-WaveSpeed 為 ComfyUI 提供推論優化，減少使用大型擴散模型生成圖像與影片所需的時間與計算成本。它解決了 FLUX、SD3.5 和 HunyuanVideo 等高解析度或複雜模型在本地推論時速度緩慢的問題。

工作原理

本專案實作了兩種主要優化技術：

1. 首塊快取（FBCache）： 這種動態快取演算法使用第一個 Transformer 塊的殘差輸出作為指標。若當前與上一次殘差輸出的差異足夠小，系統將重用上一次的最終殘差輸出，並跳過後續所有 Transformer 塊的計算，從而可能將推論速度提升 1.5 倍至 3.0 倍。
2. 增強的 torch.compile： 標準 PyTorch 編譯流程的改良版本，可優化模型的執行圖。與原始的 TorchCompileModel 節點不同，此版本支援 LoRA。

適用對象

在本地 GPU 上運行擴散模型的 ComfyUI 使用者，希望在不顯著降低圖像或影片品質的前提下提升生成速度。

主要亮點

• 廣泛模型支援： 支援 FLUX、LTXV、HunyuanVideo、SD3.5 和 SDXL。
• 顯著提速： FBCache 可在保持高準確度的同時實現最高 2 倍的加速。
• LoRA 兼容： 增強的編譯節點支援 LoRA 模型的使用。
• 靈活設定： 使用者可根據所用模型調整 residual_diff_threashold，在速度與品質之間取得平衡。