KohakuBlueleaf/LyCORIS

何を解決するか

LyCORIS は、Stable Diffusion モデルをカスタマイズするためのパラメータ効率的な微調整（PEFT）アルゴリズムのセットを提供します。ユーザーはフルモデルのチェックポイントではなく、小さなポータブルなアダプターモデルを訓練でき、簡単に共有・結合できるため、微調整に必要なストレージと計算リソースを削減できます。

どう動くか

このプロジェクトは、標準的な LoRA を超える低ランク適応技術を実装しています。任意のモジュールに適用可能なスタンドアロンの PyTorch ラッパーを提供するとともに、sd-scripts や sd-webui、ComfyUI といった人気のあるトレーニングスクリプトやインターフェースとの統合も可能です。

実装されている主なアルゴリズムは以下の通りです：

• LoRA/LoCon：標準的な低ランク適応および畳み込み層への拡張
• LoHa：低ランクハダマール積
• LoKr：クラメール積適応
• (IA)³：インフューズドアダプター
• DyLoRA：動的LoRA

最近の更新では、トレーニングおよび推論時のデバイス時間とVRAM使用量を大幅に削減するため、Triton と TileLang を用いた実験的な結合カーネルが導入されました。

対象ユーザー

• AIアーティストおよびモデルトレーナー：フルモデルのトレーニングなしに、特定のキャラクターやスタイル、コンセプトに合わせて Stable Diffusion をカスタマイズしたいユーザー
• 機械学習研究者：画像生成におけるさまざまな低ランク適応手法を探索したい人
• 開発者：複数の微調整済みアダプターを統合できる仕組みが必要な画像生成パイプラインの構築者

特徴

• 多様なアルゴリズム対応：LoHa、LoKr、(IA)³ を含む幅広い PEFT メソッドを実装
• 高いパフォーマンス：実験的な結合カーネル（Triton/TileLang）により、イーガー実行モード比で 1.4x～7.3x の高速化を実現
• 広範な統合：sd-webui、ComfyUI、InvokeAI でのネイティブサポート
• 柔軟なAPI：任意の PyTorch モジュール用のスタンドアロンラッパーとして使用可能、または高レベルのトレーニングスクリプト経由でも利用可能