Optimization-AI/LibAUC

해결하는 문제

LibAUC는 딥러닝에서 복잡한 성능 지표(X-Risk)를 직접 최적화하는 어려움을 해결합니다. 일반적인 대리 손실에 의존하는 대신, AUROC, AUPRC, NDCG와 같은 지표를 직접 최적화할 수 있는 도구를 제공합니다. 이러한 지표는 특정 실세계 작업에서 더 중요하지만, 직접 최적화하기는 어렵습니다.

작동 방식

이 라이브러리는 서rogate 손실과 전용 최적화 알고리즘을 구현하기 위한 통합 프레임워크와 사용자 친화적인 API를 제공합니다. 여러 분야에서 복합 손실 함수의 최적화를 추상화합니다:

• 불균형 데이터 분류 (CID): AUROC, AUPRC/AP, 부분 AUROC를 위한 서rogate 손실.
• 랭킹 학습 (LTR): NDCG, top-K NDCG, 리스트 기반 손실을 위한 서rogate 손실.
• 표현의 대조 학습 (CLR): 글로벌 대조 손실.

대상 사용자

불균형 데이터셋, 랭킹 시스템, 또는 대조 표현 학습에 종사하는 AI 연구자 및 실무자 중, 일반적인 교차 엔트로피 손실이 아닌 특정 성능 지표를 최적화하고자 하는 분들에게 적합합니다.

주요 특징

• 광범위한 적용 지원: 불균형 분류, 랭킹 학습, 대조 학습을 모두 커버합니다.
• 다양한 지표 지원: AUROC, AUPRC, NDCG, pAUC 최적화를 포함합니다.
• 통합 도구 제공: 전용 LibAUC Trainer와 분산 학습 지원 기능을 갖추고 있습니다.
• 모델 통합: PyTorch와 호환되며, Hugging Face 모델과도 통합 가능합니다.