StatMixedML/XGBoostLSS

解決的問題

標準的迴歸模型通常只預測單一的點值（平均值或中位數）。XGBoostLSS 將 XGBoost 擴展為進行機率建模，讓使用者能夠預測目標變數的完整條件分配。這使得能夠建立機率預測，包括推導預測區間和特定分位數，而不僅僅是單一估計值。

工作原理

它提供了一個框架，將目標的分配參數全部建模為協變數的函數。它利用 PyTorch 自動推導這些參數的梯度與海森矩陣，並支援多種分配類型，包括連續、離散以及混合離散-連續分配。對於更複雜的資料，它整合了 Normalizing Flows 以處理多峰分配，以及混合密度（Mixture-Densities）。

適用對象

需要超越點估計的資料科學家與研究人員，他們需要量化不確定性，或利用梯度提升的力量來建模複雜且非標準的資料分配（例如零膨脹資料）。

主要特色

• 完整的分配估計：預測所選機率分配的所有參數。
• 多樣的分配支援：包含零調整與零膨脹分配，適用於過多零值的資料。
• 進階建模：支援 Normalizing Flows 與混合密度，以處理複雜分配。
• 多目標迴歸：能夠建模多變量回應及其依賴關係。
• 工具整合：整合 Optuna 以進行自動超參數搜尋，並整合 SHAP 以提升模型可解釋性。