nihui/qwenimage-ncnn-vulkan

解決する問題

このプロジェクトは、Qwen-Image-2.1 モデルの高性能でポータブルな実装を提供し、Python、PyTorch、CUDA などの重い依存関係を必要とせずに、幅広いハードウェアで画像の生成と編集を可能にします。

仕組み

ncnn ユニバーサルニューラルネットワーク推論フレームワークと Vulkan を使用して GPU アクセラレーションを実現します。これにより、Windows、Linux、macOS 上の NVIDIA、AMD、Intel、Apple Silicon GPU でモデルを実行できます。量子化なしの完全な BF16 精度をサポートし、自動メモリ管理（タイル分割と低 VRAM モード）を実装して、わずか 2GB の VRAM にモデルを収めます。

対象ユーザー

コンシューマーグレードのハードウェアで Qwen-Image-2.1 を使用して画像生成と編集を行いたいユーザー、特に複雑な環境設定よりもスタンドアロンの実行ファイルを好むユーザー向けです。

ハイライト

• 幅広いハードウェアサポート：NVIDIA、AMD、Intel、Apple Silicon GPU および CPU で動作します。
• 多用途な画像タスク：テキストから画像、画像編集、透明な RGBA 出力をサポートします。
• 高度なコントロール：ControlNet（ポーズ、Canny など）、LoRA、および最大 10 枚の参照画像によるマルチ参照入力をサポートします。
• ポータブル：Python や CUDA の依存関係なしで、スタンドアロンの実行ファイルとして配布されます。
• 最適化されたパフォーマンス：Turbo バージョン（8 ステップ生成）を含み、動的な出力解像度をサポートします。