StatMixedML/LightGBMLSS

何を解決するか

LightGBMLSS は LightGBM を拡張し、確率的モデリングを可能にします。単一の点推定（平均や中央値など）を予測するのではなく、説明変数に基づいてターゲット変数の完全な条件付き分布を予測します。これにより、予測区間や分位数を導出でき、予測における不確実性のより包括的な理解が可能になります。

動作方法

このフレームワークは PyTorch と Pyro を使用して、連続的、離散的、および混合離散連続分布の広範なモデルを構築します。PyTorch の autograd を使って、すべての分布パラメータの勾配とヘッセ行列を自動的に導出し、LightGBM が目的関数を最適化する際に使用します。また、複雑な多峰的分布に適したノーマライジングフロー（Normalizing Flows）や、多様なデータ特性に対応する混合密度（Mixture-Densities）といった高度なモデリング手法もサポートしています。

対象ユーザー

単なる点推定ではなく、単変量ターゲット変数に対する不確実性を伴った確率的予測が必要なデータサイエンティストや研究者。

主な特徴

• 広範な分布サポート: 過剰なゼロ値を持つデータに適したゼロ調整型（Zero-Adjusted）およびゼロインフレート型（Zero-Inflated）分布を含む、多様な分布をサポート。
• 自動微分: PyTorch を使用して、分布パラメータの勾配とヘッセ行列を自動的に計算。
• 高度なモデリング: 複雑なデータ分布に対応するためのノーマライジングフローと混合密度を搭載。
• 統合ツールキット: Optuna を使ってハイパーパラメータの自動探索、SHAP を使ってモデルの解釈性を提供。
• LightGBM との互換性: すべての既存の LightGBM 機能と完全に互換性があります。