fabsig/GPBoost

解決する課題

GPBoost は、ツリーブースティングと潜在ガウスモデルの両方の限界に対処します。ツリーブースティングはテーブルデータや非線形性の扱いに優れていますが、サンプル間の独立性を前提としています。一方、ガウス過程のような潜在ガウスモデルは依存関係や不確実性のモデリングに優れていますが、多くの場合、線形な事前平均関数に依存しています。GPBoost はこれら二つを組み合わせることで、非線形な予測関数を可能にし、高カーディナリティのカテゴリ変数を持つ空間データ、時空間データ、またはグループ化されたデータを扱うことができます。

仕組み

このライブラリは GPBoost および LaGaBoost アルゴリズムを実装しています。ガウス尤度に対しては、応答変数を非線形平均関数（木のアンサンブル）とランダム効果（ガウス過程またはグループ化されたランダム効果）の和としてモデル化します。非ガウス尤度に対しては、リンク関数を使用して分布パラメータを木のアンサンブルとランダム効果の和に関連付けます。モデルは、共分散パラメータを反復的に学習し、関数勾配または Newton boosting ステップを使用してアンサンブルに木を追加することでトレーニングされます。

対象ユーザー

縦断的パネルデータ、空間計量経済データ、または高カーディナリティのカテゴリ変数を含むデータセットなど、複雑な依存関係を持つテーブルデータを扱うデータサイエンティストや研究者向けに設計されています。

ハイライト

• ハイブリッドモデリング: ツリーブースティングとガウス過程、混合効果モデルを統合。
• 柔軟な尤度: LaGaBoost アルゴリズムにより、ガウスおよび非ガウス尤度をサポート。
• 幅広いサポート: Python、R のインターフェースと C++ コアを提供。
• 高カーディナリティ対応: グループ化されたランダム効果を使用して、高カーディナリティのカテゴリ変数を効率的にモデル化。
• 空間インテリジェンス: 空間データや時空間データに対して、連続的で滑らかな予測を実現。