microsoft/SkillOpt

SkillOpt – ニューラルネットワークのようにエージェントスキルを訓練する

何であるか – SkillOpt は、凍結された LLM ベースのエージェントが使用する スキルプロンプト をトレーナブルなパラメータとして扱うオープンソースフレームワークです。古典的なディープラーニング風の最適化ループ（ロールアウト → リフレクト → アグリゲート → セレクト → アップデート）を実行し、検証用スコアが向上するまでマークダウン形式のスキルファイルを編集します。その結果、元のエージェントに追加の推論コストなしで戻せるコンパクトな best_skill.md（数百〜数千トークン）が得られます。

なぜ重要か – 現在の多くのエージェントスキルパイプラインは、手作業で作成されたプロンプト、強力な LLM からのワンショット生成、または臨時の自己修正に依存しています。これらのアプローチは再現性がなく、性能向上が一貫しないことがよくあります。SkillOpt は、勾配ベースの最適化の厳密さをテキスト形式のスキル自体に適用し、さまざまなベンチマークやモデルファミリーで測定可能な性能向上を実現しながら、デプロイの軽量化を維持します。

主な機能（README に記載）

• エポック、バッチサイズ、学習率に類似した予算、検証ゲートを備えたトレーニングループ – すべてモデルの重みではなく、スキルドキュメント上で動作します。
• 範囲制限付きの追加/削除/置換編集を提案する最適化モデル；編集は、検証用スコアを向上させる場合にのみ承認されます。
• ゼロランタイムオーバーヘッド – 最終的なスキルファイルはプレーンなマークダウンプロンプトであり、ターゲットモデルは変更されません。
• マルチバックエンド対応 – OpenAI、Azure、Claude、Qwen、MiniMax、Codex、Copilot など、プラグインバックエンドシステムを介して対応。
• ベンチマークと結果 – 6つの組み込みベンチマーク、7つのターゲットモデル、3つの実行ハーネス；ノースキルベースラインに対して約 +20〜25 ポイントの向上が報告され、評価された52セルすべてで最良または並び最良の結果を達成。
• SkillOpt-Sleep – オフライン「自己進化」CLI（skillopt-sleep）；過去のエージェントセッションを収集し、再実行し、検証済みの編集を検証ゲートの背後で統合。
• WebUIダッシュボード – オプションの Gradio インターフェースでトレーニング実行を監視（ポート、ホスト、共有オプション）。
• 拡張可能 – ドキュメント化された契約に従って、新しいバックエンドやベンチマークを追加可能；例としてバックエンドと環境パッケージが提供されています。

通常のワークフロー

1. pip install skillopt でインストール（WebUI用には編集可能インストールも可）。
2. バックエンド（例：openai_chat）とベンチマーク環境（例：searchqa）を設定。
3. トレーニングCLIを実行し、ロールアウトを繰り返し、スコアを収集し、最適化モデルがスキルマークダウンを編集。
4. 検証用セットで検証；検証スコアが向上した場合、編集をコミット。
5. 得られた best_skill.md を元の凍結エージェントにデプロイ – 追加のAPI呼び出しは不要。

誰が使うべきか – プロンプトエンジニアリングを実験する研究者、LLM駆動のコーディングアシスタントを開発する開発者、または下位モデルの再トレーニングなしにエージェントプロンプトを体系的に改善したい人。

さらに学ぶには – README にリンクされた完全なドキュメント、再現ガイド、技術ブログ；論文（arXiv:2605.23904）には詳細な手法とアブレーションが記載されています。