← VLA Atlas

Simpler-WidowX 仿真代理真机 · 单臂

让仿真评测与真机成绩相关系数 > 0.9 · 基于 Bridge V2 场景 · WidowX 250

SimplerEnvLi et al. RSS 2024)由斯坦福 & UC San Diego 联合发起。核心洞察是:机器人策略在仿真里的分数不可信,不是因为物理模拟不准,而是因为像素分布对不齐。SimplerEnv 用两个技术把仿真-真机拉齐:

WidowX 侧是 SimplerEnv 三个 embodiment(Google Robot / WidowX / Franka)之一,源自 UC Berkeley 的 Bridge V2 真机数据集。核心价值:VLA 不用租真机也能拿到有意义的评测分。

Qwen-VLA 分数

73.7%
Avg Success Rate · 4 个 WidowX 任务平均(arXiv 2605.30280 摘要)
对比参考:Octo-small 仿真 29.5% / 真机 25.6% · Octo-base 16.0/20.8%

发展史 · 仿真评测为什么曾经不可信

在 SimplerEnv 之前,机器人策略评测有一个尴尬的裂缝:

Li 团队的关键发现:把 Octo / RT-1-X 等已发布策略同时在 SimplerEnv 和真机上跑,视觉配准模式下 Pearson 相关系数 > 0.9、Mean Maximum Rank Violation (MMRV) < 0.15。意思是仿真里策略间的相对排序与真机完全一致,可以放心当代理指标用。

这个结果让 SimplerEnv 迅速成为 VLA 论文里的必测项,尤其是主打 Bridge V2 / RT-1-X / Octo blueprint 的模型。

4 个 WidowX 官方任务

Put Spoon on Towel
把勺子放到毛巾上 · 测精细把持 + 放置对齐
Put Carrot on Plate
把胡萝卜放到盘子上 · 物体重定位准度
Stack Green Block on Yellow Block
绿方块堆到黄方块 · 视觉配对 + 堆叠稳定
Put Eggplant in Basket
茄子放进篮子 · 长物体 + 容器内投放

两种评测模式

模式做法用途
Visual Matching真实拍摄背景 RGB + 仿真前景物体和机械臂最贴近真机的评测 · 主指标
Variant Aggregation系统改变光照 / 纹理 / 桌面颜色 / 干扰物,多 variant 平均测策略的鲁棒性 · 副指标

配套数据集 · Bridge V2

字段
规模60k+ 条真机轨迹
采集机构UC Berkeley RAIL Lab
场景Berkeley 厨房台面 · 多种前景物体 / 背景 / 光照
机器人WidowX 250 单臂(6 DoF + 双指夹爪)
控制频率5 Hz(Bridge 环境标准)
仿真物理引擎SAPIEN · 500 Hz
许可MIT / CC-BY

典型样例(视觉配准)

Spoon on Towel
put spoon on towel
Carrot on Plate
put carrot on plate
Stack Cube
stack green on yellow
Eggplant in Basket
put eggplant in basket

视觉配准模式:真实 RGB 背景 + 仿真前景物体 & 机械臂。图源:SimplerEnv GitHub raw。

主流模型分数(4 任务平均)

策略真机 SR仿真 SR说明
Octo-base20.816.0UC Berkeley 官方基座
Octo-small25.629.5轻量版
RT-1-X00仅在 Google Robot 任务上可评
Qwen-VLA-Instruct73.7论文只报仿真

Qwen-VLA 的 73.7% 大幅高于 Octo 系列,可能一部分归因于 backbone 规模(Qwen3.5-4B vs Octo < 1B),一部分归因于四阶段训练里的 RL 阶段直接在 SimplerEnv 上做了 fine-tune(见模型页 Stage IV)。

常见误区 / 局限

相关工作

Bridge V2
SimplerEnv-WidowX 的真机数据源头
Octo
SimplerEnv 论文的主要 baseline
RT-1-X / RT-2-X
SimplerEnv 的 Google Robot 侧对应模型
LIBERO
纯仿真 · 不做 sim-to-real 对齐

参考链接

GitHub · SimplerEnv
评测框架 · 主仓库
arXiv 2405.05941
Evaluating Real-World Robot Policies in Simulation · Li et al. RSS 2024
Bridge V2 项目页
rail-berkeley · WidowX 真机数据集
Hugging Face
nvidia/BridgeData2_LeRobot_v3