SakanaAI/mass

Multi-Agent Self-Supervision

解決する課題

MASS は、自己改善ループを構築することで、AI モデルの性能向上という課題に取り組みます。静的なトレーニングデータに依存するのではなく、モデルが自身のワークフローを反復的に改善し、生成した成功軌跡から学習できるようにします。

仕組み

システムは繰り返しサイクルで動作します。まず、RHI と呼ばれるプロセスを使用して、モデルのコア重みを固定したままマルチエージェントワークフローを検索・最適化します。次に、これらのワークフローから成功軌跡を収集し、モデルに対するポストトレーニング(ファインチューニング)に使用します。更新されたモデルは次のサイクルの開始点となり、再帰的な改善プロセスを形成します。

対象読者

このプロジェクトは、再帰的自己改善、マルチエージェントシステム、自動化されたポストトレーニングパイプラインに興味がある研究者や開発者を対象としています。合成タスクとベンチマーク評価を使用した反復的なモデル更新を実験したい人向けの研究グレードの実装を提供します。

ハイライト

  • ワークフロー検索、軌跡収集、モデルランキングの自動化パイプライン。
  • LoRA、アシスタントのみの損失マスキング、モデルエクスポートを含む統合ポストトレーニングツール。
  • テスト用に金融、製薬、ロボティクスにわたる 12 の合成タスクを搭載。
  • 改善サイクルの特定の段階を検査、一時停止、再開できるモジュール式コマンド構造。
  • ScienceAgentBench や MLR-Bench などの公開ベンチマークに対するモデルの進捗評価をサポート。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト