StatMixedML/LightGBMLSS

해결하는 문제

LightGBMLSS는 LightGBM를 확장하여 확률적 모델링을 가능하게 합니다. 일반적인 그래디언트 부스팅 머신은 종종 단일 점 추정치를 예측하지만, LightGBMLSS는 공변량 기반으로 목표 변수의 전체 조건부 분포를 모델링하고 예측할 수 있게 해줍니다. 이를 통해 예측 구간과 관심 있는 특정 분위수를 도출할 수 있는 확률적 예측이 가능해집니다.

작동 방식

이 프레임워크는 PyTorch와 Pyro를 기반으로 하며, PyTorch의 autograd를 사용하여 모든 분포 매개변수에 대한 기울기와 헤시안을 자동으로 도출합니다. 연속형, 이산형, 혼합 이산-연속형 분포를 포함한 다양한 분포 가족을 지원하며, 다중 모달 분포를 다루기 위한 Normalizing Flows와 Mixture-Densities와 같은 더 복잡한 유형도 지원합니다. 또한, 0이 과도하게 많은 데이터를 다루기 위한 Zero-Inflated 및 Zero-Adjusted 분포도 지원합니다.

대상 사용자

LightGBM 생태계를 사용하여 예측 모델을 구축할 때 단순한 점 추정치를 넘어서 확률적 예측과 불확실성 측정이 필요한 데이터 과학자 및 연구자.

주요 특징

• 전체 분포 추정: 선택한 분포의 모든 매개변수를 추정하여 전체 조건부 분포를 예측합니다.

• PyTorch 통합: PyTorch를 사용하여 기울기와 헤시안을 자동으로 도출합니다.

• 다양한 분포 지원: Normalizing Flows, Mixture-Densities, Zero-Inflated/Adjusted 분포를 지원합니다.

• 에코시스템 호환성: 모든 LightGBM 기능과 완전히 호환됩니다.

• 통합 도구: Optuna를 통한 자동 하이퍼파라미터 탐색과 SHAP를 통한 모델 해석 기능을 포함합니다.