syne-tune/syne-tune

何を解決するか

Syne Tuneは、機械学習モデルにおける大規模なハイパーパラメータ最適化（HPO）の課題に対処します。効率的にモデルの最適な設定（ハイパーパラメータ）を見つけるためのフレームワークを提供し、計算コストの高いチューニングジョブを処理するために、ローカルマシンまたはSLURMクラスタ上で分散実行をサポートします。

動作方法

このライブラリは、ハイパーパラメータの探索空間を定義し、スケジューラを使って評価する構成を提案することで動作します。主に2つのインタラクションパターンをサポートしています：

• 起動ベースのチューニング：ライブラリがトレーニングスクリプトを別々のプロセスとして実行し、Reporterオブジェクトを介してメトリクスをチューナーに報告します。
• Ask/Tellインターフェース：ユーザーはスケジューラに直接構成を取得（ask）し、結果を報告（tell）できます。これはJupyterノートブックやカスタムトレーニングループなどの環境で特に有用です。

マルチファイデリティ最適化、マルチオブジェクティブ最適化、転移学習、ポピュレーションベーストレーニングなど、最先端のHPO手法を実装しています。

対象ユーザー

Hugging Faceのトランスフォーマーを使用するか、Optunaなどのツールと統合する複雑なモデルに対して、大規模かつ再現可能なハイパーパラメータチューニングを必要とする機械学習エンジニアや研究者。

特徴

• 分散実行：ローカルまたはSLURMクラスタで実験を実行可能。
• 多様なHPO手法：マルチファイデリティ、マルチオブジェクティブ、ポピュレーションベーストレーニングをサポート。
• シミュレーションツール：効率的なHPOシミュレーション用に、ブラックボックス（サロゲートおよびテーブル型ベンチマーク）のコレクションを含む。
• 柔軟な統合：Ask/Tellインターフェースと、OptunaHubを介したOptuna用サンプラーを提供。