google-deepmind/android_env

解决的问题

AndroidEnv 提供了一种标准化的方法，将 Android 设备（或模拟器）转变为强化学习（RL）环境。研究人员可以训练智能体在 Android 操作系统及任何已安装的应用程序中进行导航，从而研究仅通过视觉和触摸输入就能在真实数字环境中运行的智能体。

工作原理

该库封装了一个模拟的 Android 设备，并将其暴露为一个强化学习环境。智能体通过一个通用的动作接口与设备交互，该接口模拟人类的触摸屏操作：发送局部触摸和抬起事件。环境返回屏幕的 RGB 像素观测值以及基于自定义任务定义的奖励（例如，成功发送邮件或在游戏里获得分数时的奖励）。

适用对象

专为专注于强化学习的 AI 研究人员设计，特别是对能够与复杂、实时用户界面交互，并在各种 Android 应用中学习执行任务的智能体感兴趣的人员。

主要亮点

• 真实世界场景：使用未经修改的 Android 操作系统，意味着智能体在数十亿人使用的系统上进行学习。
• 混合动作空间：结合连续坐标用于位置，离散信号用于触摸/抬起事件，以支持复杂的操作，如滑动和捏合。
• 基于像素的观测：智能体接收屏幕的 RGB 值，支持下采样选项。
• 实时模拟：环境动态以实时运行，不会等待智能体进行决策。
• 灵活的任务定义：支持为任何 Android 应用（包括游戏和生产力工具）创建自定义任务。