Purewhiter/mobilegym

What it solves

MobileGym 解決了用於訓練和評估行動裝置 GUI agent 的實體裝置與模擬器環境的限制。它解決了三個主要的「牆」：

1. 不可讀取的狀態：與實體裝置不同（實體裝置的 accessibility trees 通常會隱藏關鍵數據，例如帳戶餘額或聊天記錄），MobileGym 將整個環境提供為結構化的 JSON 快照，允許進行確定性的驗證。
2. 不可寫入的狀態：它消除了重置或複製應用程式狀態的困難（這些狀態通常隱藏在加密數據庫或伺服器後端中），透過允許使用者在數百個並行實例中重置、注入和複製狀態。
3. 不可逆的副作用：它提供了一個安全的、沙盒化的環境，讓 agent 可以執行高風險動作（例如轉帳），而不會產生現實世界的後果，從而實現可擴展的線上 Reinforcement Learning (RL)。

How it works

MobileGym 是一個由瀏覽器託管的行動裝置模擬平台。它使用三層架構，包含 Benchmark Layer (Python/Playwright 用於任務模板和裁判)、Apps Layer (具有宣告式導航的模擬應用程式) 以及 OS Runtime layer。

關鍵機制包括：

• Programmable State：環境被視為一個單一的 JSON blob，可以被擷取、配置和還原。
• Deterministic Judges：它不依賴隨機性的 VLM judges，而是使用程式化的檢查函數，直接讀取結構化狀態以提供亞毫秒級的裁決。
• Parallel Rollouts：它可以在單一伺服器上使用輕量級的佔用（每個實例約 400 MB RAM）運行多達 256 個並行實例。
• Sim-to-Real Transfer：該平台專為行為保真度而設計，允許在模擬環境中訓練的 agent 將其收益轉移到實體硬體。

Who it’s for

研究人員和開發人員，特別是那些專注於線上 RL、可信賴的評估，以及與帳戶綁定或依賴後端的應用程式進行互動的 agent 的開發者。

Highlights

• 28 Simulated Apps：包含熱門應用程式（如 WeChat、Alipay、Bilibili、Spotify）的研究替代品，以及系統應用程式。
• 416 Task Templates：提供廣泛的參數化任務用於測試和訓練。
• High Scalability：支援在單一伺服器上運行 256 個並行實例，並具有快速的冷啟動（約 3 秒）。
• Verifiable Outcomes：使用狀態差異比對 (state-diffing) 來檢測實體裝置流水線無法看到的意外副作用。
• AnswerSheet Protocol：Agent 填寫結構化表單以防止思維鏈 (chain-of-thought) 洩漏到遊戲指標中。
• Sim-to-Real Validated：證明了從模擬環境轉移到實體裝置時，訓練收益的保留率為 95.1%。