Do VLAs Really Follow Instructions? Diagnosing How-Level Instruction Following in Vision-Language-Action Models
系统诊断 VLA 对 How 级指令(指定执行方式而非任务目标)的遵循能力,发现语言骨干的细粒度指令能力在动作端大量丢失。可作为指令泛化评测与指令数据构造的复用工具,弥补现有只测 What 级任务的评测盲区。
系统诊断 VLA 对 How 级指令(指定执行方式而非任务目标)的遵循能力,发现语言骨干的细粒度指令能力在动作端大量丢失。可作为指令泛化评测与指令数据构造的复用工具,弥补现有只测 What 级任务的评测盲区。
2.4B 纯公开数据预训练的 VLA,在 LIBERO-Plus、RoboTwin Clean2Rand 与 RoboCasa365 上以约一半参数量对标大模型,给出性能-规模的新 Pareto 前沿。其知识注册式视觉-语言→动作迁移设计与公开数据配方对小模型落地有直接参考价值。
Qixin Sun et al. · 把历史存成相邻观测间的紧凑隐状态转移,作为上下文记忆注入策略,并在 π0.5 上实例化,解决目标被遮挡后仍需回忆交互的问题。记忆模块与训练方式可直接移植到现有 VLA,是即插即用的长时序改造方案。
Yiyang Du et al. · 提出在通用 VLM 与 VLA 后训练之间插入 embodied mid-training 阶段,用具身数据把视觉-语言表征对齐到机器人域,再下接动作学习。给出了训练阶段划分与数据配比的可复现范式,可直接用于改造现有 VLM 底座。
Inkyu Sa et al. · 用阶段感知的价值标签从动作流中在线识别「看似顺利实则崩溃」的静默失败,并把该信号回灌到 VLA 后训练。可直接作为后训练/RL 阶段的自动数据筛选与早停器,工程落地性强。
Zhibin Li et al. · 提出高密度离子电子皮肤阵列配神经分层处理架构,把快速读出与数据压缩前置到传感端,实现人形机器人精细纹理感知与轻柔操作。属触觉硬件与信号处理层,尚未接入 VLA 策略训练,但为触觉 VLA 提供上游感知基础。
Manav Kulshrestha et al. · 用 VLM 任务先验推断该抓哪里(切面包抓刀柄、递刀抓刀身),再结合 6DoF 位姿精修做零样本任务导向抓取。属抓取前端模块,可作为 VLA 流水线中的低层抓取提议器,但本身不涉及操作策略学习。
Xingyu Zhang et al. · 尝试从海量人类操作视频中提取可跨本体迁移的因果因素,以缓解真实机器人交互数据昂贵的问题。方向属于 VLA 数据规模化的关键路径,但摘要只给出动机与因果分解思路,缺少策略层面的实验与量化结果。
Zhuoming Liu et al. · 将长期历史内化进模型权重而非压缩/检索/缓存,使流式 VLM 在保持实时响应的同时累积过去信息。属长视频理解侧的记忆机制创新,未涉及机器人操作或具身决策,仅可作为 VLA 记忆设计的远距离参考。
Zhixu Li et al. · 指出现有操作 benchmark 缺少个性化维度,构建按用户偏好执行任务的评测基准。评测视角新增(同一任务不同偏好),对家用机器人落地有参考,但贡献在评测而非方法,非紧急精读项。
Ming Shin Cindy Sung et al. · 针对高混合低产量电子装配场景,把工艺顺序、公差等工业过程约束纳入操作 benchmark,弥补 LIBERO 系列缺少过程约束的空白。属评测基础设施,对有工业落地需求的团队有用但不紧急。
Tianxing Chen et al. · 构建需要历史观测推理的记忆依赖操作 benchmark,并量化现有策略在记忆任务上的系统性失败,给出策略设计层面的分析结论。可作为记忆型 VLA(如 LTM 类工作)的评测基准。
Jaewoo Park et al. · 把多模态 LLM 当作无人机通用 agent,在真实多机、目标可移动的场景下评测指令解析、接近、跟踪与搜索四类能力,突破以往纯仿真单机评测。属空中具身 agent 评测,与机械臂操作 VLA 的关键技术不可直接复用。
Jiamin Shi et al. · 指出与动作无关的视觉变化会污染潜空间中的动作-后果关系,提出分离内在动力学的表征学习目标。对世界模型/视频预测有方法论价值,但验证偏仿真,未接入真实机器人策略。
Dongjie Cheng et al. · 用视频世界模型作为统一引擎,驱动 agent 对运动、动作与视角变化做时空推理,超越输入帧可见内容。属通用多模态 agent 推理框架,未涉及机器人操作闭环,暂不构成 VLA 可复用组件。
Conor Mc Gartoll et al. · 主张人形灵巧操作不应局限于末端执行器,提出用前臂与躯干支撑、滑动大体积物体的全身操作范式。切中灵巧操作瓶颈,但摘要未给出策略架构与实验量化,需读正文才能判断可复用性。
Hongchang Liu et al. · 针对几何基础模型特征的视角依赖问题,把场景动力学与相机引起的表观变化解耦,得到视角无关的 3D 世界状态。对具身世界模型的表征质量有提升,但未验证于机器人操作策略。
Chenyuan Zhou et al. · 在测试时在线优化环境隐变量,补偿摩擦、质量、人类干扰等不可观测因素,提升机器人世界模型的动作后果预测。与世界模型驱动的策略规划互补,但当前贡献集中在前向预测精度。
Yuanpeng He et al. · 把预测性演练与动作扰动结合,解决视频生成先验如何有效指导策略学习的问题,属 world-action model 训练方法。方向与 VLA 规划侧高度相关,但摘要未给出基准对比,暂按值得了解处理。
Tyler Ga Wei Lum et al. · 系统消融多指灵巧手「玩耍式」预训练对精密装配任务的影响因素,回应接触丰富任务数据难采集的问题。属灵巧操作数据侧的实证研究,对做多指 VLA 的团队有经验参考,但非 VLA 架构贡献。
Holger Molin et al. · 从谱表示学习角度提出 SpecWM,显式指定观测之间应保持的关系,从而控制 JEPA 世界模型保留哪些信息。提供了「告诉世界模型该记住什么」的新接口,但当前验证停留在表征层面。
Zhexi Luo et al. · 从人类手-物交互数据训练通用灵巧跟踪策略,用值函数引导 reset 分配以提升物理仿真中的课程式学习效率。面向动作重定向与跟踪而非视觉-语言条件策略,可作为灵巧 VLA 的低层动作先验。