From Foundation to Application: Improving VLA Models in Practice
尽管 VLA 基础模型近期取得进展,但实验室条件与实际应用之间的差距仍阻碍其落地。为弥合这一鸿沟,我们提出 LingBot-VLA 2.0,在三个功能域中改进前代模型。 1. 任务与形态泛化:相比前版,我们重构数据处理流程,并筛选约 60,000 小时 数据用于预训练,包括 50,000 小时 覆盖 20 种机器人配置的轨迹数据与 10,000 小时 第一人称人类视频。 2. 扩展动作空间:除双臂硬件平台外,系统支持头部、腰部、移动底座及灵巧手的自由度,使机器人能处理实际场景中的复杂任务。 3. 预测动力学建模:将未来预测定义为代理任务,借助视频表示模型获取语义先验,深度估计模型获取几何线索,提升时序推理能力。 在通用设置下的 GM-100 基准 评估验证了上述改进的有效性。此外,得益于覆盖全身自由度的预训练数据,LingBot-VLA 2.0 在两个机器人平台上展现出强大的跨形态长时移动操作能力。
论文精读
TL;DR LingBot-VLA 2.0 通过大规模多具身预训练、全身自由度动作扩展和预测性动力学建模,显著提升了 VLA 模型的跨任务泛化与长序列移动操作能力。
问题
问题背景
VLA 模型 已成为构建通用机器人操作策略的主流范式,其借助预训练 VLMs 获得丰富的多模态对齐和语义先验,在理解复杂场景与指令方面展现巨大潜力。
现有方法的局限
- 泛化性不足:多数 VLA 模型仅在受控环境、单一机器人形态下训练,数据多样性匮乏(如仅覆盖少量末端执行器轨迹),导致跨任务、跨具身的零样本迁移能力弱。
- 动作空间受限:现有系统通常只建模机械臂末端或简单关节,忽略头部、腰部、移动底座及灵巧手等全身自由度,无法胜任真实场景中需要全身协调的长序列任务。
- 时序推理薄弱:传统 VLA 聚焦于当前观察到动作的映射,缺乏对物理交互动态的显式建模,使得在需要预测物体运动、推理因果链的操控任务中易失败。
技术挑战与重要性
工业场景要求通用机器人能够在开放环境中完成移动抓取、双手协作等长时域任务,这需要:
- 大规模、跨具身数据的收集与统一表示,但不同机器人形态的动作空间差异巨大,对齐与标注成本极高;
- 精确的动力学预测,不仅要理解“做什么”,还要预判“怎么做”带来的结果,这要求模型融合语义与几何信息;
- 高效的动作解码,在超高自由度下保证实时性与稳定性,是系统工程的核心难点。 业界对“一模型控多机”的需求日益迫切,VLA 从实验室走向真实产线必须攻克这些瓶颈,这直接影响机器人泛化部署的成本与可行性。
行业类比
类似于 LLM 从文本生成进化到指令跟随、工具使用所需的精准对齐,VLA 模型也需要从基础感知描述向物理世界的因果预测与全身控制进化,才能真正融入实际生产流程。
核心洞察
- 将第一视角人类视频纳入VLA预训练,利用其低成本、高交互丰富度的特性,缓解机器人数据稀缺问题。与仅依赖遥操作轨迹的工作不同,LingBot-VLA 2.0 加入了10,000小时的人类自我中心视频,这些视频天然携带抓取、操作、导航等先验,但无需昂贵的人工标注或远程操控成本。通过统一动作表示,人类视频中的隐含意图可以迁移到机器人策略中,大幅提升模型在少样本场景下的泛化能力,为工业级数据飞轮提供了一种可扩展的路径。
- 通过预测未来状态作为代理任务,将时序推理能力显式注入VLA模型,弥补了传统动作克隆方法在长时任务中缺乏后果感知的缺陷。具体来说,LingBot-VLA 2.0 利用视频表示模型提供语义先验、深度估计模型提供几何线索,训练模型从当前观测预测未来帧,这种双查询蒸馏(Dual-Query Distillation)迫使策略学习更丰富的时空表征。相比RT-2、Octo等直接输出动作的基线,这一设计显著提升了需要多步预见的任务(如移动操作)的成功率,并在GM-100基准上验证了其对复杂动力学环境的适应性。
方法
LingBot-VLA 2.0 的方法设计围绕“从基础模型到实际应用”的差距展开,整体遵循 输入 → 关键模块 → 输出 的流程。
输入与预处理
输入包含多视角图像、自然语言指令和机器人本体状态。预训练数据经过大规模扩增,涵盖 20 种机器人构型的 50,000 小时轨迹 和 10,000 小时第一人称人类操作视频,并采用统一动作表示将不同构型的关节、移动基座、灵巧手等自由度映射到同一空间。
核心模块
- MoE-based VLA 架构:基础模型采用混合专家 (MoE) 策略,将视觉-语言语义对齐与动作生成解耦,根据场景动态路由到不同的专家子网络,提升模型对多样化任务和硬件构型的兼容性。
- Dual-Query 蒸馏:为强化时序推理,引入 时空感知蒸馏。模型维护两个查询向量,一个用于当前动作预测,另一个用于未来帧预测。该未来预测作为代理任务,借助 视频表示模型 提取语义先验,深度估计模型 提供几何约束,以自监督方式蒸馏时空表征,使模型能推理动作的长期后果。
- 动作空间扩展:输出动作覆盖 全身自由度,包括头部、腰部、移动基座和灵巧手,不再局限于双臂末端执行器,使策略能直接输出复杂移动操作所需的全身协调指令。
输出
模型最终生成高维动作序列,直接控制机器人的所有执行器,实现从“走到目标位置→调整腰部→伸手抓取”等长程移动操纵任务。
与同类方法的关键差异:相较于 RT-2 等仅利用单 embodiment 数据或有限动作空间的 VLA 模型,LingBot-VLA 2.0 通过 MoE 路由与跨构型大规模预训练,首次将全身自由度操作和预测动力学蒸馏结合,实现了在多个物理平台上无需微调的长程跨构型泛化。
实验
实验设计
作者在 通用机器人设定 下评估,主要采用 GM-100 基准衡量模型性能。该基准包含多样化的操作任务,旨在检验预训练改进后的综合效果。预训练阶段汇集了约 6 万小时数据:
- 50,000 小时来自 20 种不同机器人配置 的轨迹
- 10,000 小时以自我为中心的人类视频 评估任务覆盖 双机械臂操作 与 全身自由度长程移动操作,并在两个异构机器人平台上验证跨形态泛化能力。
关键发现
- 动作空间扩展:纳入头部、腰部、移动底盘及灵巧手等自由度后,机器人可处理更复杂的实际任务。
- 时序推理增强:通过 视频表示模型(提供语义先验)与 深度估计模型(提供几何线索)构建的预测动力学,有效改善了动作序列的长期连贯性。
GM-100验证:综合测评表明上述改进有效提升了通用策略的性能。- 跨形态泛化:在大规模全身自由度预训练数据加持下,模型成功实现了不同机器人平台间的长程移动操作迁移。
与基线对比
与上一代 LingBot-VLA 相比,2.0 版本在数据规模、动作多样性和时间理解维度上均有显著加强。虽然原文未提供绝对数值对比,但定性结果和通用设置下的评测一致表明,混合专家架构 与 双查询蒸馏 等设计使得模型在面对新机器人形态和不稳定环境时更加稳健。相较于只依赖小规模单臂数据的早期 VLA 模型,本工作强调了预训练数据生态和身体自由度覆盖的关键作用,为后续通用具身智能系统提供了可扩展的基准。
行业影响
落地场景
LingBot-VLA 2.0 的全自由度、跨机身通用操控能力,可直接应用于仓储物流(长序列移动抓取、货架拣选)、家庭服务(开门、倒水等多步骤操作)、医疗辅助(灵巧手器械传递)和柔性制造(双臂协作装配)。其 60,000 小时预训练数据涵盖 20 种机器人构型与人类自我中心视频,使得模型能快速适配不同硬件平台,尤其适合需要移动操作一体的复杂场景,如电商仓库中从货架取货并放置至传送带的全流程。
商业价值
- 降低开发边际成本:通用 VLA 基座模型可替代针对特定任务和硬件的策略训练,减少重新标注、训练、调试的工程投入。据论文在 GM-100 基准的验证,单模型跨构型泛化能显著缩短部署周期。
- 提升资产利用率:全自由度控制(腰、头、底盘、灵巧手)让单一机器人胜任更多元任务,提高设备复用率,降低总体拥有成本(TCO)。
- 体验升级:预测动力学建模增强了时间推理能力,使行为更平滑、准确,在与人协作场景中可提升安全性和用户信任。
与现有产品/工作流的接口
模型提供开源权重(GitHub、Checkpoints),可通过 ROS 2 节点封装,直接订阅 RGB-D 相机和关节状态话题,输出全自由度动作指令;也可作为云端推理服务,通过 gRPC 与现场边缘计算设备通信。企业内部可基于MoE-based VLA 架构,持续注入自有场景数据做轻量微调(如 LoRA),在保持泛化性的同时适应专用环境。
具体落地 use case:
- 某电商物流中心引入 LingBot-VLA-2.0 基座模型,协调数十台异型移动机械臂完成“订单拣选→包装→码垛”长序列任务,无需为每一机器人型号单独开发策略。模型通过预测视频语义和深度几何,动态调整路径以避免碰撞,降低误操作率。
- 智慧医院中,护理机器人搭载该 VLA 模型,利用灵巧手操作各类尺寸的医疗器械,并通过全身自由度在病床与储物柜间移动,实现无人化物料配送,减轻医护人员负担。
局限
- 预训练数据虽达 60,000 小时并涵盖 20 种机器人构型与人类自我中心视频,但场景与任务多样性仍受限于收集条件,对完全陌生的具身形态和长尾复杂任务的 zero-shot 泛化能力未经验证,真实世界部署时可能面临严重域迁移。
- 扩展至全身(头、腰、底盘、灵巧手)高维动作空间虽提升了任务覆盖,但可能增加策略学习难度与推理延迟,文中未量化不同自由度组合下的精度 - 效率 trade-off;同时,引入视频表征与深度估计的预测动力学模块显著增加了计算负载,实时闭环控制场景下的可行性存疑。
- 实验仅在 GM-100 基准上进行通用策略评估,缺乏在 ALFRED、CALVIN 等社区标准基准上的横向对比,难以定位方法在更广泛操作任务中的相对位次。各组件(大规模数据、动作空间扩展、动态预测)的独立贡献未被深入消融,影响机制不够清晰。