fabsig/GPBoost

解决的问题

GPBoost 解决了树提升与潜在高斯模型各自的局限性。虽然树提升非常适合处理表格数据与非线性关系，但它假设样本间相互独立；而潜在高斯模型（如高斯过程）擅长建模依赖性与不确定性，但通常依赖线性先验均值函数。GPBoost 将两者结合，允许使用非线性预测函数，并能处理具有高基数类别变量的空间、时空或分组数据。

运作原理

此库实现了 GPBoost 与 LaGaBoost 算法。对于高斯似然函数，它将响应变量建模为非线性均值函数（树的集合）与随机效应（高斯过程或分组随机效应）的总和。对于非高斯似然函数，它使用链接函数将分布参数与树集合及随机效应的总和关联起来。模型通过迭代学习协方差参数，并使用函数梯度或 Newton boosting 步骤将树加入集合中来进行训练。

适用对象

专为处理包含复杂依赖性的表格数据的科学家与研究人员设计，例如纵向面板数据、空间计量经济数据，或具有高基数类别变量的数据集。

特点

• 混合建模：结合树提升与高斯过程及混合效应模型。
• 灵活的似然函数：通过 LaGaBoost 算法支持高斯与非高斯似然函数。
• 广泛支持：提供 Python、R 接口以及 C++ 核心。
• 高基数处理：使用分组随机效应有效建模高基数类别变量。
• 空间智能：针对空间或时空数据实现连续且平滑的预测。