rupeshs/fastsdcpu

何を解決するか

FastSD CPU は、CPU 上で Stable Diffusion を使用して高速な画像生成を可能にし、従来の CPU 推論の遅さを克服します。通常のステップ数ではなく、たった1ステップで画像を生成できるため、高性能な専用 GPU を搭載していないハードウェアでも視覚的コンテンツの作成にかかる時間を大幅に短縮できます。

仕組み

本プロジェクトは、潜在的整合性モデル（LCM）と敵対的拡散蒸留（ADD）を活用して、必要な推論ステップ数を削減しています。Intel の OpenVINO ツールキットを活用することで、CPU、統合 GPU（iGPU）、NPU でのパフォーマンスをさらに高速化しています。メモリ消費を抑え、速度を向上させるために、Tiny AutoEncoders（TAESD）をサポートしており、標準のデコーダーを置き換えることで RAM 使用量とレイテンシを削減します。

対象ユーザー

Windows、Linux、Mac、Android（Termux 経由）、Raspberry Pi 4 上でローカルに Stable Diffusion を実行したいユーザー、特に高級 NVIDIA GPU を持たないユーザー向けに設計されています。

特徴

• マルチインターフェース対応：デスクトップ GUI（Qt）、高度な機能を備えた WebUI、コマンドラインインターフェース（CLI）を提供。
• 極めて高速：OpenVINO と SDXS-512-0.9 を使用した Core i7-12700 上で、512x512 の画像を 0.82 秒で生成可能。
• 広範なモデル対応：SD 1.5、SDXL、SD Turbo、SDXL-Lightning、FLUX.1、FLUX.2-klein に対応。
• C-Suite 機能：LoRA、ControlNet、画像から画像への変換、画像のバリエーション、画像編集（修復・色付け）をサポート。
• ハードウェア最適化：Intel AI PC、特に Lunar Lake NPU に対応して最適化されています。