fabsig/GPBoost

해결하는 문제

GPBoost는 트리 부스팅과 잠재 가우시안 모델의 한계를 모두 해결합니다. 트리 부스팅은 테이블 데이터와 비선형성을 다루는 데 탁월하지만 샘플 간의 독립성을 가정합니다. 반면 가우시안 프로세스와 같은 잠재 가우시안 모델은 의존성과 불확실성을 모델링하는 데 뛰어나지만 종종 선형 사전 평균 함수에 의존합니다. GPBoost는 이 두 가지를 결합하여 비선형 예측 함수를 허용하고, 높은 카디널리티의 범주형 변수를 포함하는 공간 데이터, 시공간 데이터 또는 그룹화된 데이터를 처리할 수 있게 합니다.

작동 원리

이 라이브러리는 GPBoost 및 LaGaBoost 알고리즘을 구현합니다. 가우시안 우도(likelihood)의 경우, 반응 변수를 비선형 평균 함수(트리 앙상블)와 랜덤 효과(가우시안 프로세스 또는 그룹화된 랜덤 효과)의 합으로 모델링합니다. 비가우시안 우도의 경우, 링크 함수를 사용하여 분포 매개변수를 트리 앙상블과 랜덤 효과의 합과 연결합니다. 모델은 공분산 매개변수를 반복적으로 학습하고 함수 그래디언트 또는 Newton boosting 단계를 사용하여 앙상블에 트리를 추가함으로써 훈련됩니다.

대상 사용자

종단적 패널 데이터, 공간 계량 경제 데이터 또는 높은 카디널리티의 범주형 변수가 포함된 데이터셋과 같이 복잡한 의존성을 가진 테이블 데이터를 다루는 데이터 과학자 및 연구자를 위해 설계되었습니다.

주요 특징

• 하이브리드 모델링: 트리 부스팅과 가우시안 프로세스 및 혼합 효과 모델을 결합.
• 유연한 우도: LaGaBoost 알고리즘을 통해 가우시안 및 비가우시안 우도를 모두 지원.
• 광범위한 지원: Python, R 인터페이스 및 C++ 코어 제공.
• 높은 카디널리티 처리: 그룹화된 랜덤 효과를 사용하여 높은 카디널리티의 범주형 변수를 효율적으로 모델링.
• 공간 지능: 공간 데이터 또는 시공간 데이터에 대해 연속적이고 매끄러운 예측 가능.