StatMixedML/XGBoostLSS

它解决了什么问题

标准回归模型通常只预测一个点值（均值或中位数）。XGBoostLSS 将 XGBoost 扩展为支持概率建模，使用户能够预测目标变量的整个条件分布。这使得可以生成概率预测，包括推导预测区间和特定分位数，而不仅仅是单一估计值。

它如何工作

它提供了一个框架，将目标变量的所有分布参数建模为协变量的函数。它利用 PyTorch 自动推导这些参数的梯度和海森矩阵，并支持多种分布类型，包括连续型、离散型以及混合离散-连续分布。对于更复杂的数据，它还引入了归一化流（Normalizing Flows）来处理多模态分布和混合密度模型。

适用人群

需要超出点预测的数据科学家和研究人员，他们需要量化不确定性，或利用梯度提升的强大能力来建模复杂且非标准的数据分布（如零膨胀数据）。

主要特性

• 完整的分布估计：预测所选概率分布的所有参数。
• 多样化的分布支持：包含零调整和零膨胀分布，适用于存在过多零值的数据。
• 高级建模能力：支持归一化流和混合密度模型，用于复杂分布建模。
• 多目标回归：能够建模多变量响应及其依赖关系。
• 工具集成：与 Optuna 集成以实现超参数的自动化搜索，与 SHAP 集成以增强模型可解释性。