Mosi-AI/RoboICL

Embodied In-Context Learning for GPT-6 Astra

它解决了什么问题

RoboICL 解决了让机器人学习新任务而无需昂贵的重新训练或专门的机器人控制模型的挑战。它允许通用视觉语言模型通过仅使用少量演示或其自身的执行历史,在运行中适应任务来控制机器人。

工作原理

该框架将视觉语言模型(特别是 GPT-6 Astra)连接到机器人模拟器。它使用两个主要的上下文来源:演示上下文(记录的机器人轨迹)和交互记忆(模型自身的过去动作和反馈)。这些通过一种将观察映射到动作的共享语法呈现给模型。系统维护一个有界内存,保留关键的历史交互,同时优先考虑最近的结果以进行即时纠正。

适用人群

该项目适用于机器人和具身智能领域的研究人员和开发人员,他们希望尝试使用大规模多模态模型进行机器人控制。它专为使用 RoboDojo 基准测试和 Isaac Sim 环境的用户设计。

亮点

  • 无需参数更新的零样本和单样本学习能力。
  • 使用共享交互语法实现一致的观察-动作循环。
  • 有界内存管理,平衡长期上下文与即时反馈。
  • 包含一个完整的 RoboDojo 基准测试运行器,支持双臂笛卡尔动作。
  • 为模拟和策略执行编排独立的 Python 环境,以处理复杂的依赖需求。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目