google-deepmind/android_env

解決的問題

AndroidEnv 提供了一種標準化的方法，將 Android 裝置（或模擬器）轉換為強化學習（RL）環境。研究人員可訓練智能體在 Android 作業系統及任何已安裝的應用程式中進行導航，進而研究僅透過視覺與觸控輸入即可在真實數位環境中運作的智能體。

工作原理

該程式庫封裝了一個模擬的 Android 裝置，並以強化學習環境的形式公開。智能體透過一個通用的動作介面與裝置互動，該介面模擬人類的觸控螢幕操作：傳送局部觸控與抬升事件。環境會回傳螢幕的 RGB 影像觀測值，以及根據自訂任務定義的獎勵（例如，成功寄出電子郵件或在遊戲中達成分數時的獎勵）。

適用對象

專為專注於強化學習的 AI 研究人員設計，特別是對能與複雜、即時使用者介面互動，並在各種 Android 應用程式中學習執行任務的智能體感興趣的研究者。

主要亮點

• 真實世界情境：使用未經修改的 Android 作業系統，意味著智能體在數十億人使用的系統上學習。
• 混合動作空間：結合連續座標用於位置，離散信號用於觸控/抬升事件，以支援複雜的動作，如滑動與捏合。
• 基於像素的觀測：智能體接收螢幕的 RGB 值，並支援降採樣選項。
• 即時模擬：環境動態以即時運行，不會等待智能體進行決策。
• 靈活的任務定義：支援為任何 Android 應用程式（包括遊戲與生產力工具）建立自訂任務。