Purewhiter/mobilegym

What it solves

MobileGymは、モバイルGUIエージェントのトレーニングと評価における実機およびエミュレータ環境の限界に対処します。主に3つの「壁」を解決します：

1. Unreadable state (読み取り不能な状態): アクセシビリティツリーが重要なデータ（口座残高やチャット履歴など）を隠してしまうことが多い実機とは異なり、MobileGymは環境全体を構造化されたJSONスナップショットとして提供するため、決定論的な検証が可能です。
2. Unwritable state (書き込み不能な状態): アプリの状態をリセット、注入、またはクローンすることを可能にすることで、暗号化されたデータベースやサーバーバックエンドに隠されていることが多いアプリの状態のリセットやクローンの困難さを解消します。これは、数百の並列インスタンスにわたって実行可能です。
3. Irreversible side effects (不可逆的な副作用): エージェントが高リスクなアクション（送金など）を現実世界に影響を与えることなく安全なサンドボックス環境で実行できるため、スケーラブルなオンライン強化学習 (RL) を可能にします。

How it works

MobileGymは、ブラウザでホストされるモバイルシミュレーションプラットフォームです。Benchmark Layer (Python/Playwrightを使用したタスクテンプレートとジャッジ)、Apps Layer (宣言的なナビゲーションを備えたシミュレートされたアプリ)、およびOS Runtime layerの3層アーキテクチャで構成されています。

主なメカニズムは以下の通りです：

• Programmable State (プログラム可能な状態): 環境は、キャプチャ、設定、および復元が可能な単一のJSON blobとして扱われます。
• Deterministic Judges (決定論的なジャッジ): 確率的なVLMジャッジに頼るのではなく、構造化された状態を直接読み取るプログラムによるチェック関数を使用して、サブミリ秒単位の判定を下します。
• Parallel Rollouts (並列ロールアウト): 軽量なフットプリント (インスタンスあたり約400 MB RAM) を使用して、単一のサーバー上で最大256の並列インスタンスを実行できます。
• Sim-to-Real Transfer (Sim-to-Real転移): このプラットフォームは行動の忠実度を重視して設計されており、シミュレーションでトレーニングされたエージェントがその成果を実機ハードウェアに転移させることが可能です。

Who it’s for

モバイルGUIエージェントを構築している研究者や開発者、特にオンラインRL、信頼性の高い評価、およびアカウントに紐付いた、あるいはバックエンドに依存するアプリケーションと対話するエージェントに焦点を当てている人々です。

Highlights

• 28 Simulated Apps: WeChat、Alipay、Bilibili、Spotifyなどの人気アプリの調査用代替品、およびシステムアプリが含まれています。
• 416 Task Templates: テストとトレーニングのための幅広いパラメータ化されたタスクを提供します。
• High Scalability (高スケーラビリティ): 1台のサーバーで256の並列インスタンスを、高速なコールドスタート (~3秒) でサポートします。
• Verifiable Outcomes (検証可能な結果): 実機パイプラインでは検出できない予期せぬ副作用を検出するために、state-diffingを使用します。
• AnswerSheet Protocol: エージェントが構造化されたフォームを記入することで、思考プロセス (chain-of-thought) の漏洩がメトリクスに影響を与えることを防ぎます。
• Sim-to-Real Validated (Sim-to-Real検証済み): シミュレーションから実機へ転移させた際、トレーニングによる成果の95.1%が維持されることが実証されました。