nunchux-ai/ComfyUI-nunchaku

何を解決するか

このプロジェクトは、高性能な4ビット量子化ニューラルネットワークを実行できるComfyUIプラグインを提供します。大規模な画像生成モデルを実行する際の高VRAM使用量と遅い推論速度という問題を解決し、20シリーズGPUを含む一般消費者向けハードウェアでも利用可能にします。

仕組み

このプラグインは、Nunchaku推論エンジンを統合しており、SVDQuantを使用してモデルを4ビットに量子化します。これによりメモリ使用量を削減し、処理速度を向上させます。FLUX.1、Qwen-Image、Z-Image-Turboなどのさまざまなモデルをサポートし、これらの量子化モデルをロードおよび実行を管理するカスタムComfyUIノードを提供します。

対象ユーザー

低VRAM要件で高度な画像生成および編集モデルを実行したいデジタルアーティスト、AI研究者、ComfyUIユーザー。

特徴

• 4ビット量子化: SVDQuantを用いて効率的な4ビットニューラルネットワークを実現。
• 広範なモデル対応: FLUX.1、Qwen-Image、Z-Image-Turboと互換性あり。
• VRAM最適化: Qwen-Imageに対して非同期オフロードを実装し、TransformerのVRAM使用量をわずか3 GiBまで削減。
• 拡張機能: LoRA、ControlNet-Union-Pro 2.0、PuLIDの統合をサポート。
• ハードウェア互換性: NVIDIA 20シリーズGPUと互換性あり。