面向机器人的 Gemini 4 Argon:Google DeepMind 的物理推理模型在 ERQA 上得分 87%
Google DeepMind 发布了 Gemini 4 Argon,这是一个通用物理推理模型,该实验室称其在物理理解、代码生成和机器人视觉语义推理方面是一项阶段性变革。最引人注目的结果是:在测试模型理解和解决 3D 环境中物理、空间问题能力的体现推理(ERQA)基准上,Argon 使用纯推理获得了 87% 的分数,优于所有其他前沿模型。
DeepMind 将此发布定位为加速迈向物理 AGI 的一步,并展示了代表性提示,表明 Argon 应用于整个机器人生命周期,而非单一狭窄任务。
Gemini 4 Argon 是什么及其基准测试
Gemini 4 Argon 被定位为通用物理推理模型,而非特定任务的策略。DeepMind 表示,它“弥合了编码、视觉感知、物理模拟和具身机器人控制之间的鸿沟”,能够原生地对多视角视频、3D 几何、接触力学和本体感觉遥测进行推理。
该模型的能力声明基于 ERQA 基准,DeepMind 称该基准测试模型理解和解决 3D 环境中物理、空间问题的能力。Argon 报告的分数是使用纯推理达到的 87%,DeepMind 称其优于所有其他前沿模型。
机器人控制:三种演示工作流
Argon 在三种不同的控制工作流上进行了演示:真实到模拟再到真实的移动操作、零样本手臂控制,以及视频世界模型的闭环控制。
使用 MuJoCo 练习的 Spot 移动操作
Argon 控制 Boston Dynamics Spot 四足机器人(12 自由度腿部加上 6 自由度手臂)来学习一项新技能:踩下脚踏式垃圾桶以丢弃汽水罐。Argon 创建了脚踏式垃圾桶的铰接式 MuJoCo 数字孪生,以便在实际踩下物理踏板并将罐子放入打开的垃圾桶之前练习其动作。
该提示指示机器人拿起两罐健怡可乐并将其丢弃,并在踩下之前使用前置摄像头验证右前脚目标位于踏板中心。它还指定了“2 代理验证群组(脚部验证器和手部验证器)”来验证脚踏步骤以及释放前手中的 3D 手部入箱对齐。
使用视觉坐标控制带的零样本控制
Argon 控制一个简单的机械臂,将倒下的杯子扶正并将一张皱巴巴的餐巾纸放入其中,在数轮中利用视觉坐标控制带和动作原语进行推理。手腕摄像头图像上标注了 2 厘米世界坐标网格、标记当前 3D 抓取中心的青色十字准线、显示钳口打开和闭合线的青色括号,以及显示物体长轴方向的绿色线条。
该提示定义了一个闭环轮次工作流:通过 HTTP 观察端点检查状态,预先选择 VLM 调用粒度(粗略 2–4 次调用,预抓取悬停验证 4–7 次调用,或精细视觉伺服 8–20 次调用),然后发送运动原语并在每轮后进行视觉验证。如果状态返回 grasp_failed,则指示模型调用 robot.look_at(...) 以重新观察并闭环恢复。可用的原语作为代码即策略调用暴露,例如 robot.grasp、robot.place_until_contact、robot.move_by 和 robot.move_until_contact。
全能控制:操控视频世界模型
Argon 在 Gemini Omni 世界模型内操控机器人,将五个散落的 Scrabble 字母块(G、R、A、N、O)重新排列成一行拼出 A-R-G-O-N。Argon 并非指定一个静态提示,而是在闭环视觉循环中操控:它编写带时间戳的动作提示,检查中间 rollout 关键帧,并优化其提示。DeepMind 将此演示标记为 33 步操控视频 rollout。
操控提示要求将复杂动作一次分解为一个简单的、单方向的动作,保持非活动手缩回,明确指出在物体移动后哪些工作区域变为空,并使用包裹在 <omni_prompt> 标签中的 [MM:SS.mmm] 时间戳。
Real2Sim:Argon 构建模拟孪生的三种方式
Argon 从三种不同的输入源重建物理校准的模拟环境:真实机器人摄像头馈送、第一人称人类视频和手绘草图。
机器人视角到模拟
给定一个真实机器人远程操作片段,Argon 构建机器人及重建任务对象的 MuJoCo 场景,然后针对两个验证目标进行迭代:视觉匹配(MuJoCo 从 head_left、left_wrist 和 right_wrist 摄像头渲染的帧与真实观察对齐且看起来相似)和物理匹配(每个 Sharpa 指尖上的模拟接触力/扭矩在时间、幅度和方向上与记录的触觉力匹配)。
该提示施加了明确的防作弊约束。任务对象只能通过与机器人手和环境的真实 MuJoCo 接触(通过 mj_step)移动。在 t = 0 之后,模型不得更改 MjModel 参数、对对象施加外力或扭矩、使用焊接或等式约束、施加超出关节空间 PD 的前馈扭矩、设置或回滚对象 qpos/qvel、禁用或排除碰撞,或报告非来自 MuJoCo 求解器的接触力。离线规划的命令只能在真实指尖接近对象的帧中更改,并且每个命令必须保持在记录的遥操作轨迹的 手臂关节 0.55 弧度 和 手部关节 0.65 弧度 之内。
人类视角到模拟
给定一个操作任务的自我中心人类视频,Argon 识别与任务相关的对象,将粗略的边界框替换为复合凸分解网格,以便凹形容器支持物理内部放置,并将人类手部轨迹重定向到 MuJoCo 接触物理中的 76 自由度双手人形机器人,带有 22 自由度五指手。
该提示指定了一个 500 Hz 灵巧运动拟合压力测试:将 3D 人类手腕和手指关键点重定向到人形机器人的 7 自由度手臂和 22 自由度手部关节,在 500 Hz(dt = 0.002s) 下以零运动学焊接约束步进 MuJoCo 中的轨迹,并验证相对的拇指和手指力闭合、超过 2 厘米的干净物体提升以及稳定的最终放置。
草图到模拟
开发人员可以拍摄一张粗略的纸笔草图——显示 Apollo 2 人形机器人沿抛物线弧投掷球以击倒桌子上 3-2-1 堆叠的盒子——并让 Argon 自动构建 GPU 加速的 mujoco_warp 场景,合成平衡的 76 自由度全身和五指投掷轨迹,在闭环物理中验证 6/6 目标击倒,并导出 Blender 4.5 Cycles 渲染。
该提示指定了一个 50 Hz 全身投掷轨迹,在 2.80 秒内共 140 步,跨越四个阶段:稳定站立和五指强力抓取闭合;躯干/肩部蓄力,伴有踝-髋质心补偿;向前鞭打加速;以及在峰值手速时同步的 22 自由度五指张开。验证要求人形机器人保持直立平衡,骨盆漂移小于 3 厘米,并击倒所有 6 个目标盒子。
物理理解:标记、谜题求解和价值函数
Argon 在三个物理理解任务上进行了演示:代理多模态后见标记、纯视觉闭环谜题求解器,以及密集价值函数估计。
后见标记和数据质量控制
给定一个 ALOHA 2 双手机器人将方形纸折叠成折纸狐狸的 136 秒 俯视视频,Argon 生成时间对齐的 4 级后见注释层级:情节目标(G1),6 个连续语义子任务(G2),17 个接触级原子原语(G3),以及自动质量控制重新加权,在失误和重试期间保持任务进度平稳。
Argon 能够识别操作不佳的片段,如暂停、不稳定抓取和失误。提示指示模型在非进展性滑动和分层重试循环期间保持 task_progress_pct 平稳,并将其 0.15x 到 0.25x 降权用于行为克隆。
找出异常球:纯视觉闭环求解器
为了用机器人重现经典的 12 球天平谜题,Argon 构建了一个双手 Franka FR3 MuJoCo 环境,包含 12 个视觉上相同的台球——11 个标准球(150 克)和 1 个异常球(270 克或 30 克)——以及一个铰接式 Roberval 双盘天平,带有平行四边形等式约束(mjEQ_joint),以确保盘保持水平。
然后,Argon 编写一个纯视觉闭环求解器,严格依赖立体 RGB 摄像头输入和机器人本体感觉,禁用特权任务观察。求解器在两个立体视图中分割球、盘和托盘,三角测量其 3D 坐标,从立体垂直像素视差视觉读取天平倾斜(+1 = 左重,-1 = 右重,0 = 平衡),并在 3 次称重 内将异常球隔离到重(红色)或轻(蓝色)托盘中。环境奖励在三次称重内将真实异常球隔离到正确托盘的得分为 1.00。
价值函数估计
Argon 被描述为机器人任务的通用价值函数。在来自人类 UMI 数据集的 60 秒双手环排序片段 上进行评估,Argon 迭代检查接触转换周围的同步头部、左夹持器和右夹持器摄像头馈送,以生成密集价值函数和任务进度预测,将轨迹分解为 28 个片段,具有正、中性和负的进度斜率。
研究和自我改进
Argon 还展示了生成训练数据和改进其自身硬件执行的能力。
通过模拟进行动作改进
从一张真实桌面的单一 RGB 照片开始,Argon 自主构建校准的 MuJoCo 模拟孪生,定义新任务,并合成闭环运动生成器,以在模拟中收集 4,500 多个域随机化片段。DeepMind 报告称,这将在真实世界物理机器人成功率从 56% 提高到 75%,并将完成时间从 35 秒减少到 24 秒。
该提示涵盖了一个双手工作空间,带有两个 7 自由度 Franka FR3 手臂(平行颚夹持器)和 4 个 RGB 摄像头,并要求为所有 9 个派对道具提供程序化 3D 网格和复合 MuJoCo 碰撞原语,一个 77 任务单臂和双手课程,以及一个跨 ±10 厘米姿态随机化的闭环 IK 轨迹生成器。
视觉拾放的自改进
在一个简单的 6 自由度手臂上,Argon 通过试验和自我反思迭代地自我改进拾放任务的执行速度和放置精度。DeepMind 报告了三次迭代:迭代 1 在 58.9 秒,迭代 2 在 22.9 秒(下降时擦过盒子边缘),以及 迭代 3 在 17.4 秒,完美居中放置。
工作流分阶段:阶段 1 测量对象并生成干运行计划,不进行硬件运动;阶段 2 将夹持器放置在目标上方而不接触,并用腕部摄像头验证手臂和视觉一致;阶段 3 自主执行,自我诊断失败(通过审查自己的日志和腕部/顶部镜头),并在安全限制内优化至少快 2 倍。
在 MuJoCo WebAssembly 中单提示复现机器人论文
每篇论文使用一个提示,Argon 阅读机器人控制手稿和任何发布的检查点,将物理模型和闭环控制器移植到自包含的 MuJoCo WebAssembly 浏览器实验室中,并在无头 Chromium 中验证它们。DeepMind 引用的示例包括 DeepLoco 中的 7 网络分层运动、HUSKY 中的 50 Hz PPO 参与者,以及 Whole-Body MPC 中的 Web Worker iLQR。
该演示展示了五篇里程碑式的腿式和类人机器人论文在浏览器中实时运行:Robotic Soccer OP3 1v1、DeepLoco、Massively Parallel Deep RL ANYmal C、Whole-Body MPC Go2 和 HUSKY G1 Skateboarding——取自 Argon 复现的 68 个交互式浏览器沙盒。提示要求在 MuJoCo XML 中匹配论文的精确物理时间步长、执行器增益(kp/kv)、扭矩限制和运动学约束,以论文的精确控制率在 JavaScript 中运行真实神经推理或 Web Worker iLQR,并运行无头 Chromium(Playwright)验证循环,断言在 300 多帧中零控制台错误和非零任务进度。
DeepMind 表示这意味着什么
DeepMind 的结论是,Argon“不仅理解场景中对象是什么,还理解它们如何与代理物理交互以完成全身灵巧任务。”该实验室称 Gemini 4 Argon 是加速迈向物理 AGI 道路上的一个重要里程碑,其目标是实现能够与人类并肩工作以解决复杂挑战的机器人技术。
可用性和访问
Gemini 4 Argon 自公告起可在 Google 的开发平台上使用:
- Google AI Studio: 可供 Google AI Ultra 订阅者使用。
- Gemini API: 可在 AI Studio 中与 Gemini API 的付费层级一起使用。模型标识符为
gemini-4-argon,在 Interactions API 中使用,并在google-genaiSDK 中提供上线第一天支持。 - Google Antigravity: 可供 Google AI Ultra 订阅者使用。选择 Gemini 4 Argon (
gemini-4-argon) 作为复杂规划、/goal运行和多代理编排的活动模型。
Sources
- OriginalGemini 4 Argon for Robotics