KohakuBlueleaf/LyCORIS
Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion.
解决的问题
LyCORIS 提供了一套参数高效的微调（PEFT）算法，用于定制 Stable Diffusion 模型。它允许用户训练小型、可移植的适配器模型（而非完整的模型检查点），这些模型可以轻松共享和组合，从而显著降低微调所需的存储和计算资源。
工作原理
该项目实现了多种超越标准 LoRA 的低秩适配技术。它提供独立的 PyTorch 包装器，可应用于任何模块，同时也支持与流行的训练脚本 sd-scripts 以及 sd-webui、ComfyUI 等界面的集成。
实现的关键算法包括：
- LoRA/LoCon：标准低秩适配及其在卷积层的扩展
- LoHa：低秩哈达玛积
- LoKr：克罗内克积适配
- (IA)³：注入式适配器
- DyLoRA：动态 LoRA
最近的更新引入了使用 Triton 和 TileLang 的实验性融合内核，显著减少了训练和推理过程中的设备时间和显存占用。
适用人群
- AI 艺术家和模型训练者：希望在不训练完整模型的情况下，为特定角色、风格或概念定制 Stable Diffusion 的用户
- 机器学习研究人员：探索图像生成中不同低秩适配方法的研究者
- 开发者：需要集成多个微调适配器的图像生成流水线构建者
主要亮点
- 丰富的算法支持：实现多种 PEFT 方法，包括 LoHa、LoKr 和 (IA)³
- 高性能：实验性融合内核（Triton/TileLang）相比 eager 模式可实现 1.4x–7.3x 的加速
- 广泛的集成：原生支持
sd-webui、ComfyUI 和 InvokeAI - 灵活的 API：可作为任意 PyTorch 模块的独立包装器使用，也可通过高级训练脚本调用
相关
- Dispatch
- 项目
- 项目
- Dispatch
- 项目