Mosi-AI/RoboICL
Embodied In-Context Learning for GPT-6 Astra
它解决了什么问题
RoboICL 解决了让机器人学习新任务而无需昂贵的重新训练或专门的机器人控制模型的挑战。它允许通用视觉语言模型通过仅使用少量演示或其自身的执行历史,在运行中适应任务来控制机器人。
工作原理
该框架将视觉语言模型(特别是 GPT-6 Astra)连接到机器人模拟器。它使用两个主要的上下文来源:演示上下文(记录的机器人轨迹)和交互记忆(模型自身的过去动作和反馈)。这些通过一种将观察映射到动作的共享语法呈现给模型。系统维护一个有界内存,保留关键的历史交互,同时优先考虑最近的结果以进行即时纠正。
适用人群
该项目适用于机器人和具身智能领域的研究人员和开发人员,他们希望尝试使用大规模多模态模型进行机器人控制。它专为使用 RoboDojo 基准测试和 Isaac Sim 环境的用户设计。
亮点
- 无需参数更新的零样本和单样本学习能力。
- 使用共享交互语法实现一致的观察-动作循环。
- 有界内存管理,平衡长期上下文与即时反馈。
- 包含一个完整的 RoboDojo 基准测试运行器,支持双臂笛卡尔动作。
- 为模拟和策略执行编排独立的 Python 环境,以处理复杂的依赖需求。
相关
- 项目
syswonder/robonixRobonix 是一个用于具身智能的开源代理操作系统。它利用 LLM/VLM 模型将自然语言指令转换为机器人任务描述语言 (RTDL) 程序,并在各种真实或模拟机器人上执行。该系统建立在分层抽象(原语、服务、技能、任务)之上,通过版本化合约进行注册,实现了硬件与软件的解耦,并可在异构平台上重复使用。README 提供了快速入门指南,包括安装 Rust、uv、Docker,构建 `rbnx` CLI,运行 Webots 模拟器,并启动具有 OpenAI 兼容 VLM 端点的系统。丰富的软件包目录列出了数十种支持的机器人本体(实体与模拟)。该项目采用 Mulan PSL-2.0 授权。
- 项目
OpenBMB/DeepThinkVLADeepThinkVLA 是一个视觉-语言-动作模型,它在生成机器人动作前插入一个显式的链式思维推理步骤。采用混合解码器(自回归推理 → 双向并行动作生成),作者在新构建的具身CoT数据集上训练,再通过成果驱动的强化学习进行优化。该模型在LIBERO基准上实现97 %的平均成功率,推理延迟仅为纯自回归基线的0.175×,并能零样本迁移到更新的LIBERO Plus套件。
- 项目
open-gigaai/giga-brain-0GigaBrain‑0.7 是一个开源、大规模的机器人视觉-语言-动作模型。它在 37,000 小时的异构具身数据上进行预训练,支持 8 种机器人形态,并附带训练脚本、基准测试套件(VLM‑Benchmark、RoboColiseum、RoboTwin 2.0、EBench)以及可与 ROS 集成的即用型推理服务器。
- 项目
2toinf/X-VLAX‑VLA 是一个 Transformer 模型,统一了视觉、语言和机器人本体感知,以预测多种机器人类型的动作。它使用可学习的软提示(soft prompts)为每个本体定制共享骨干网络,作为 REST 推理服务器运行,并在 Hugging Face 上提供许多预训练检查点(基础模型和机器人专用模型)。该仓库包含安装脚本、服务器/客户端代码以及针对自定义机器人数据集进行微调的说明。
- 项目
Robbyant/lingbot-vla-v2LingBot‑VLA 2.0 是一个用于机器人的开源视觉‑语言‑动作基础模型。它将多种机器人形态统一为 55 维动作向量,利用 MoE 层与双查询蒸馏(深度 + 未来视频)来学习预测动力学,并在约 6 万小时的机器人与自我中心视频数据上进行训练。该仓库提供基于 conda 的安装方式、下载 6B 参数检查点的脚本、数据准备工具、自定义数据集微调,以及在 RoboTwin 基准测试与真实机器人上的评估。报告显示,在双臂与移动操作任务上,其表现较 1.0 版本有显著提升。