THUDM/INFTY

해결하는 문제

INFTY는 지속적 AI에서 핵심적인 과제인 비극적 망각, 안정성-유연성 딜레마, 낮은 일반화 능력과 같은 문제를 해결하기 위해 설계된 최적화 엔진입니다. 기존 AI 파이프라인에서 고정된 최적화 설정을 대체할 수 있는 통합 프레임워크를 제공하여, 모델이 새로운 작업을 학습해도 이전 작업을 잊지 않도록 합니다.

작동 방식

INFTY는 SGD와 같은 기본 최적화 알고리즘을 감싸는 즉시 사용 가능한 래퍼로 작동합니다. 다양한 학습 시나리오에서 모델의 파라미터 업데이트 방식을 관리하는 전용 알고리즘을 구현합니다:

• 일반화 지원: 시간이 지남에 따라 적응력을 향상시키기 위해 평탄한 손실 곡면을 촉진합니다.
• BP-Free 지원: 역전파가 불가능한 경우 기울기 근사를 사용합니다.
• 다중 목적 지원: 공유 파라미터를 조작하여 오래된 작업과 새로운 작업의 목적 간 기울기 간섭을 줄입니다.

또한 손실 곡면, 헤시안 고유값 스펙트럼 밀도(ESD), 기울기 충돌 곡선과 같은 최적화 행동을 시각화할 수 있는 진단 도구도 포함되어 있습니다.

대상 사용자

PTM 기반 지속적 학습, 지속적 PEFT, 지속적 확산 모델, 지속적 시각-언어 모델(VLM)에 집중하는 연구자 및 개발자를 대상으로 합니다.

주요 특징

• 광범위한 호환성: ResNet, Transformer, ViT, CLIP, 확산 모델 등 다양한 아키텍처를 지원합니다.
• 경량 통합: 플러그인 형식 설계로 기존 파이프라인에서 최적화 알고리즘을 쉽게 교체할 수 있습니다.
• 진단 도구 세트: 손실 곡면 시각화 및 기울기 간섭 측정을 위한 내장 도구가 있습니다.
• 다양한 응용 가능성: 일반적인 지속적 학습부터 텍스트-이미지 확산, 다중 모달 학습에 이르기까지 다양한 시나리오에서 효과가 입증되었습니다.