FluxVLA/FluxVLA

An all-in-one VLA engineering platform for embodied AI — from data to real-robot deployment.

FluxVLA Engine – 具身智能研究的一站式平台

它是什么 – FluxVLA Engine 是一个开源的端到端软件栈,让研究人员和工程师能够为机器人训练、评估和部署视觉-语言-动作(VLA)模型。它包含:

  • 统一配置和标准化 API,使同一套代码可以在仿真环境、工作站或边缘设备上运行。
  • 模块化组件(数据管道、模型后端、奖励模型训练器、推理运行时),无需重写整个系统即可替换。
  • 可部署性 – Docker 镜像、Jetson-Orin 支持、基于 Triton 的推理,以及 ZMQ 远程推理封装。

为什么重要 – 构建机器人就绪的 VLA 模型通常需要拼接许多不同的工具(仿真器、大规模模型训练、硬件驱动)。FluxVLA 消除了这种摩擦,提供了从原始数据到真实机器人执行的单一“工程循环”,降低了学术界和工业界进行具身 AI 实验的门槛。


主要特性(如 README 所述)

特性 README 说明
全栈平台 处理从数据收集、模型训练、基准评估(LIBERO、RoboCasa、RoboDojo)到真实机器人部署(Franka、Oli 人形机器人、Jetson Orin)的所有环节。
统一配置 一键安装脚本(scripts/install_env.sh),支持仅仿真、仅真实机器人或全栈模式。
标准化接口 相同的 Python API 可跨仿真器和硬件使用;通过 ZMQ 进行远程推理;Triton 后端用于加速推理。
模块解耦 不同的模型系列(SmolVLA、Cosmos3-Edge、GR00T N1.5/N1.7、Qwen3VL、DreamZero、PI0/PI0.5、FastWAM、DiT4DiT)可以互换。
可部署性 Docker 镜像、Jetson-Orin 刷机指南、RTX-5090 实时推理(45 Hz)、边缘推理(7.4 Hz)。
基准套件 为 LIBERO、RoboCasa GR1、RoboDojo 提供预训练检查点和脚本,并附有详细的性能表。
可扩展管道 FluxDAgger(模型解耦的 DAgger)、FluxBisim(仿真基准)、奖励模型重加权(RA-BC/AW-BC)。
文档 多语言文档(英文/中文/日文)、API 参考、部署指南,以及 arXiv 上的技术报告。

性能亮点(来自 README 表格)

  • LIBERO 基准 – 最佳平均得分约为 98%(例如,FluxVLA (PI0.5) 平均 97.95%,FluxVLA (DiT4DiT) 平均 98.65%)。
  • RoboCasa GR1 – 最佳模型 FluxVLA (DiT4DiT) 在橱柜、抽屉、微波炉和泛化任务中平均成功率达到 57.25%。
  • RoboDojo – FluxVLA (PI0.5) 显示出最高的平均进度得分 13.61 和成功率 8.83%,表明其具有强大的长时程和记忆能力。

快速开始(安装)

# 创建全新的 conda 环境
conda create -n fluxvla python=3.10 -y
conda activate fluxvla

# 一键安装脚本 – 选择一种模式
bash scripts/install_env.sh sim-only   # 仅仿真和基准测试
# bash scripts/install_env.sh real-only  # 真实机器人驱动和远程推理
# bash scripts/install_env.sh full       # 全部安装

安装程序会自动选择适当的 CUDA-PyTorch 构建,并从 HuggingFace 拉取 RoboCasa 资源,除非你跳过它们。


典型工作流程

  1. 配置一个 YAML/JSON 实验文件(环境、模型、奖励模型)。
  2. 训练使用提供的脚本(scripts/train.sh)– 支持大规模模型(Cosmos3-Edge、GR00T、DiT4DiT)和无检查点的 GPT-6 Astra 评估。
  3. 评估在标准套件(LIBERO、RoboCasa、RoboDojo)上使用单行命令进行,记录进度和成功率。
  4. 部署 – 构建 Docker 镜像、刷写 Jetson Orin,或通过 ZMQ 运行远程推理;使用相同的模型检查点控制真实机器人(Franka、Oli)。

适用人群

  • 机器人研究人员,需要可复现的 VLA 实验管道。
  • AI 实验室,希望将新的视觉-语言-动作架构与最先进的基线进行基准测试。
  • 行业团队,构建具身 AI 产品(仓库拣放、家庭辅助机器人),需要现成的部署栈。

更多资源


总结 – FluxVLA Engine 是一个真正的、全面的开源平台,用于在具身智能环境中训练和部署视觉-语言-动作模型,并配有基准测试、真实机器人演示和广泛的部署工具。

相关

  • 项目
  • 项目
  • 项目
  • Dispatch
  • 项目