THUDM/INFTY

解決的問題

INFTY 是專為解決持續學習 AI 中的核心挑戰而設計的優化引擎，包括災難性遺忘、穩定性-可塑性困境，以及泛化能力差等問題。它提供一個統一的框架，可取代現有 AI 流水線中的固定優化器設定，讓模型在學習新任務時不會遺忘舊任務。

工作原理

INFTY 作為基礎優化器（如 SGD）的即插即用封裝器運作。它實現專用演算法，以管理模型在不同學習情境下的參數更新方式：

• 泛化性支援：促進平坦的損失曲面，以提升長期適應能力。
• 無反向傳播支援：在無法進行反向傳播時使用梯度近似。
• 多目標支援：透過操縱共享參數，減少舊任務與新任務目標之間的梯度干擾。

它還包含診斷工具，用於可視化優化行為，例如損失曲面、海森矩陣特徵值譜密度（ESD）和梯度衝突曲線。

適用對象

適用於從事持續學習 AI 的研究人員與開發者，包括專注於基於 PTM 的持續學習、持續 PEFT、持續擴散模型，以及持續視覺-語言模型（VLM）的群體。

主要亮點

• 廣泛相容性：支援多種架構，包括 ResNet、Transformer、ViT、CLIP 和擴散模型。
• 輕量級整合：插件式設計，可輕鬆替換現有流水線中的優化器。
• 診斷工具集：內建工具用於可視化損失曲面並量化梯度干擾。
• 多功能應用：在從典型持續學習到文字到影像擴散和多模態學習等多種情境中均表現出色。