normal-computing/posteriors

해결하는 문제

기계 학습 모델의 불확실성 정량화 (UQ)를 위한 범용 Python 라이브러리를 제공하여, 개발자가 단일 점 추정치만 제공하는 대신 모델이 예측에 대해 얼마나 확신하는지 이해할 수 있도록 합니다.

작동 방식

이 라이브러리는 PyTorch 및 torch.func 기반의 함수형 접근 방식을 사용하여 구성 가능하고 확장 가능하게 만듭니다. 사용자는 log_posterior 함수와 온도 설정을 정의한 다음 모델 매개변수에 변환을 적용합니다. 모델 가중치의 사후 분포를 추정하기 위해 다음을 포함한 여러 베이지안 학습 방법을 지원합니다:

• 변분 추론 (VI)
• 라플라스 근사
• 확률적 경사도 MCMC (SGMCMC)
• 확장 칼만 필터 (EKF)

대상 사용자

베이지안 학습 및 불확실성 정량화를 구현해야 하는 PyTorch 모델을 다루는 연구원 및 개발자, 특히 Hugging Face transformers 라이브러리나 PyTorch Lightning을 사용하는 사람들을 위해 설계되었습니다.

주요 특징

• 구성 가능: transformers, lightning, torchopt, pyro와 원활하게 작동합니다.
• 함수형 설계: 수학적 정의에 더 가깝고 테스트하기 쉽습니다.
• 확장 가능: 대규모 모델과 대규모 데이터셋을 처리하도록 설계되었습니다.
• 교체 가능한 알고리즘: 최소한의 코드 변경으로 다양한 UQ 방법 간에 전환할 수 있습니다.