THUDM/INFTY

解决的问题

INFTY 是一个专为解决持续学习 AI 中核心挑战而设计的优化引擎，包括灾难性遗忘、稳定性-可塑性困境以及泛化能力差等问题。它提供了一个统一的框架，可替代现有 AI 流水线中的固定优化器配置，使模型在学习新任务时不会遗忘旧任务。

工作原理

INFTY 作为基础优化器（如 SGD）的即插即用封装器运行。它实现了专用算法，以管理模型在不同学习场景下的参数更新方式：

• 泛化性支持：促进平坦的损失曲面，以提升长期适应能力。
• 无反向传播支持：在无法进行反向传播时使用梯度近似。
• 多目标支持：通过操纵共享参数，减少旧任务与新任务目标之间的梯度干扰。

它还包含诊断工具，用于可视化优化行为，例如损失曲面、海森矩阵特征值谱密度（ESD）和梯度冲突曲线。

适用人群

适用于从事持续学习 AI 的研究人员和开发者，包括专注于基于 PTM 的持续学习、持续 PEFT、持续扩散模型以及持续视觉-语言模型（VLM）的群体。

主要亮点

• 广泛兼容性：支持多种架构，包括 ResNet、Transformer、ViT、CLIP 和扩散模型。
• 轻量级集成：插件式设计，可轻松替换现有流水线中的优化器。
• 诊断工具集：内置工具用于可视化损失曲面并量化梯度干扰。
• 多功能应用：在从典型持续学习到文本到图像扩散和多模态学习等多种场景中均表现出色。