StatMixedML/LightGBMLSS

解決的問題

LightGBMLSS 擴展了 LightGBM，使其支援機率模型。標準的梯度提升機通常只預測單一的點估計值，而 LightGBMLSS 則允許使用者根據共變量對目標變數的完整條件分配進行建模與預測。這使得可以產生機率預測，進而推導出預測區間與感興趣的特定分位數。

工作原理

此框架基於 PyTorch 與 Pyro，利用 PyTorch 的 autograd 自動推導所有分配參數的梯度與海森矩陣。它支援廣泛的分配族，包括連續型、離散型以及混合離散-連續型分配，還支援更複雜的類型，如 Normalizing Flows 與 Mixture-Densities，以處理多峰分配。同時，也支援 Zero-Inflated 與 Zero-Adjusted 分配，以處理零值過多的資料。

適用對象

需要超越點估計、在 LightGBM 生態系統中建構預測模型時需要機率預測與不確定性量化之資料科學家與研究人員。

主要亮點

• 完整分配估計：估計所選分配的所有參數，以預測完整的條件分配。

• 核心 PyTorch 集成：使用 PyTorch 自動推導梯度與海森矩陣。

• 多樣分配支援：支援 Normalizing Flows、Mixture-Densities 與 Zero-Inflated/Adjusted 分配。

• 生態系統相容性：與所有 LightGBM 功能與特性完全相容。

• 整合工具：包含透過 Optuna 的自動超參數搜尋與透過 SHAP 的模型解釋功能。