THUDM/INFTY

何を解決するか

INFTYは、継続的AIにおける根本的な課題、すなわち悲劇的忘却、安定性と柔軟性のジレンマ、および劣った一般化能力に対処するための最適化エンジンです。既存のAIパイプラインにおける固定された最適化設定を置き換える包括的なフレームワークを提供し、モデルが新しいタスクを学習しても過去のタスクを忘れないようにします。

動作方法

INFTYはSGDなどの基本的な最適化手法をラップする即插即用のラッパーとして機能します。異なる学習シナリオにおいてモデルのパラメータ更新方法を管理する専用アルゴリズムを実装しています：

• 一般化のサポート：時間の経過に伴う適応性を高めるために平坦な損失面を促進します。
• BPフリーサポート：バックプロパゲーションが不可能な場合、勾配の近似を使用します。
• マルチオブジェクティブサポート：共有パラメータを操作することで、古いタスクと新しいタスクの目的関数間の勾配干渉を低減します。

また、損失面、ヘッシアン固有値スペクトル密度（ESD）、勾配衝突曲線などの最適化行動を可視化する診断ツールも含まれています。

対象ユーザー

継続的AIに取り組む研究者や開発者、特にPTMベースの継続的学習、継続的PEFT、継続的拡散モデル、継続的視覚言語モデル（VLM）に注力する人々を対象としています。

特徴

• 広範な互換性：ResNet、Transformer、ViT、CLIP、拡散モデルなど、多様なアーキテクチャをサポートします。
• 軽量な統合：プラグイン型設計により、既存のパイプラインでの最適化手法の容易な置き換えが可能になります。
• 診断ツールセット：損失面の可視化と勾配干渉の定量的評価を可能にする組み込みツール。
• 多様な応用：通常の継続的学習からテキストから画像への拡散、マルチモーダル学習まで、幅広いシナリオで効果が実証されています。