rodrigo-arenas/Sklearn-genetic-opt

解決する問題

sklearn-genetic-opt は、標準的な scikit-learn の検索ツールである GridSearchCV や RandomizedSearchCV に代わる進化的な選択肢を提供します。これは、パラメータが相互作用する可能性がある大規模で混合された検索空間において、最適なハイパーパラメータと特徴量サブセットを見つけるという問題に対処し、網羅的なグリッド検索を非現実的にし、ランダム検索を非効率にします。

仕組み

このツールキットは、遺伝的アルゴリズムを使用して scikit-learn モデルを最適化します。完全なパラメータ構成（個体）を評価し、最も有望な候補を使用して、組換えと突然変異を通じて後続の世代の進化を導きます。

主なメカニズムは次のとおりです。

• GASearchCV: ハイパーパラメータチューニングのための scikit-learn 互換の検索ツール。
• GAFeatureSelectionCV: 交差検証を使用して特徴量サブセットを評価するラッパーベースのセレクター。
• 適応的検索: 交叉率と突然変異率は世代を超えて調整され、探索から活用へと移行します。
• スマート初期化: ラテン超方格シーディングと推定器のデフォルトを使用して、初期集団を多様化します。

対象読者

特徴量選択とハイパーパラメータチューニングを組み合わせた再現可能なワークフローを必要とする機械学習実務者。特に、混合パラメータ型（整数、連続、カテゴリ）とパラメータの相互作用が疑われる場合に役立ちます。

主な特長

• scikit-learn API: fit、predict、best_params_ と完全に互換性があります。
• 混合検索空間: 整数、連続、カテゴリ型を同時にサポートします。
• 早期停止: ConsecutiveStopping や TimerStopping などのコールバックを含み、検索を自動的に終了します。
• 実験追跡: 候補を子ランとして記録するための MLflow との組み込み統合。
• 可視化: 適合度の進化、パラメータの相互作用、検索概要ダッシュボードのための組み込みプロットを提供します。
• 並列実行: n_jobs による候補またはフォールドの並列評価をサポートします。

まとめ

混合検索空間におけるハイパーパラメータチューニングと特徴量選択に遺伝的アルゴリズムを使用する、scikit-learn 互換の最適化ツールキット。

タイトル

scikit-learn モデルのための進化的ハイパーパラメータチューニングおよび特徴量選択ツールキット