StatMixedML/LightGBMLSS

해결하는 문제

LightGBMLSS는 LightGBM를 확장하여 확률적 모델링을 가능하게 합니다. 단일 점 추정(예: 평균 또는 중앙값)을 예측하는 대신, 설명 변수를 기반으로 타겟 변수의 전체 조건부 분포를 예측합니다. 이를 통해 예측 구간과 분위수를 도출할 수 있어 예측의 불확실성을 더 포괄적으로 이해할 수 있습니다.

작동 방식

이 프레임워크는 PyTorch와 Pyro를 사용하여 연속형, 이산형, 혼합 이산-연속형 분포의 광범위한 모델링을 가능하게 합니다. PyTorch의 autograd를 활용해 모든 분포 매개변수의 기울기와 헤시안을 자동으로 도출하며, 이는 LightGBM이 목적 함수를 최적화하는 데 사용됩니다. 또한 복잡한 다중 모달 분포에 적합한 정규화 흐름(Normalizing Flows)과 다양한 데이터 특성에 대응하는 혼합 밀도(Mixture-Densities)와 같은 고급 모델링 기법도 지원합니다.

대상 사용자

단순한 점 추정이 아닌, 단변량 타겟 변수에 대해 불확실성 추정이 포함된 확률적 예측이 필요한 데이터 과학자 및 연구자.

주요 특징

• 광범위한 분포 지원: 과잉 제로 데이터에 적합한 제로 조정형(Zero-Adjusted) 및 제로 인플레이션형(Zero-Inflated) 분포 포함, 다양한 분포 지원.
• 자동 미분: PyTorch를 사용해 분포 매개변수의 기울기와 헤시안을 자동으로 계산.
• 고급 모델링: 복잡한 데이터 분포에 대응하기 위한 정규화 흐름과 혼합 밀도 포함.
• 통합 도구 지원: Optuna를 통한 자동 하이퍼파라미터 탐색 및 SHAP를 통한 모델 해석성 제공.
• LightGBM 호환성: 기존 LightGBM의 모든 기능과 완전히 호환됩니다.