StatMixedML/XGBoostLSS

An extension of XGBoost to probabilistic modelling

何を解決するか

標準的な回帰モデルは通常、単一の点推定値(平均値や中央値)を予測する。XGBoostLSS は XGBoost を拡張し、確率論的モデリングを可能にし、ターゲット変数の条件付き分布全体を予測できるようにする。これにより、単なる一点推定ではなく、予測区間や特定の分位数の導出を含む確率論的予測が可能になる。

仕組み

ターゲット変数の分布のすべてのパラメータを説明変数の関数としてモデル化するフレームワークを提供する。これらのパラメータに対する勾配とヘッセ行列の自動導出には PyTorch を活用し、連続型、離散型、および混合離散連続型の多様な分布タイプをサポートする。より複雑なデータに対しては、多峰性分布に対応する Normalizing Flows と Mixture-Densities を組み込む。

対象ユーザー

点推定を超えた予測が必要で、不確実性の定量や勾配ブースティングの力を活用して複雑な非標準データ分布(例:ゼロ過剰データ)をモデル化したいデータサイエンティストや研究者。

特徴

  • 完全な分布推定: 選択された確率分布のすべてのパラメータを予測可能。
  • 多様な分布サポート: 過剰なゼロ値を持つデータに適したゼロ調整型およびゼロインフレート型分布を含む。
  • 高度なモデリング: 複雑な分布に対応する Normalizing Flows と Mixture-Densities をサポート。
  • 多ターゲット回帰: 多変量応答とその依存関係をモデル化可能。
  • ツール連携: Optuna を用いた自動ハイパーパラメータ探索と SHAP を用いたモデルの説明可能性を統合。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト