StatMixedML/XGBoostLSS

解决的问题

标准回归模型通常只预测单一的点估计值（如均值）。XGBoostLSS 扩展了 XGBoost，使其能够进行概率建模，允许用户预测目标变量的完整条件分布。这使得可以生成概率预测，包括推导预测区间和感兴趣的特定分位数。

工作原理

它提供了一个框架，使用多种连续、离散以及混合离散-连续分布，将目标变量建模为协变量的函数。系统利用 PyTorch 自动推导所有分布参数的梯度和海森矩阵，并与 Pyro 集成。它还通过归一化流（用于多峰分布）、混合密度以及零调整/零膨胀分布，支持复杂的数据特征，适用于零值过多的数据。

适用人群

需要超越点预测、并希望在单变量或多元回归任务中全面理解目标变量不确定性与分布的数据科学家和研究人员。

主要亮点

• 完整分布估计：估计所选分布的所有参数，而不仅仅是均值。
• 多目标支持：能够建模多变量响应及其依赖关系。
• 灵活的分布库：支持广泛的分布族，包括混合密度和归一化流。
• 集成工具：包含通过 Optuna 实现的自动超参数搜索和使用 SHAP 实现的模型可解释性。