LeCun 介绍 LeWorldModel,强调其低成本、高效率优势。
2 of 2
两种未来正并驾齐驱。一种押注越来越大的语言模型。另一种押注紧凑、基于物理本征的世界模型,能够实时规划。LeWorldModel 是最强烈的信号,表明第二条路不仅可行——而且正变得极其便宜和普及。
论文链接:https://t.co/kGDCYz5Wz2
关于 LeWorldModel
1. 一举击破复杂性神话。之前的 JEPA 世界模型需要 6 个以上损失项和多个训练技巧。LeWM 只使用恰好两个损失,别无他物。简洁即是革命。
2. 1500 万参数。一块 GPU。几小时。这不是大科技公司的实验室玩具。你完全可以在一台像样的游戏笔记本电脑上训练这个模型。世界模型研究一夜之间民主化了。
3. 比基础模型世界模型快 48 倍的计划速度。当其他人还在进行昂贵的自回归生成时,LeWM 在潜空间中闪电般规划——这对实时机器人至关重要。
4. 潜空间真正理解物理。探测实验表明,它编码了位置、速度和其他物理量,而从未被告知它们是什么。它仅从像素中学习因果关系。
5. 它像人类一样检测异常。当视频中出现物理上不可能的事情时(球穿墙、物体无视重力),LeWorldModel 能可靠地标记出来。这是迈向具有真正常识物理直觉的 AI 的第一步。
LeWorldModel 不是最终答案——但它是 LeCun 预测性世界模型愿景的最简洁、最实用的证明,不仅正确,而且现在很容易实现。真正理解物理世界的 AI 时代得到了巨大加速。
两种未来正并驾齐驱。一种押注越来越大的语言模型。另一种押注紧凑、基于物理本征的世界模型,能够实时规划。LeWorldModel 是最强烈的信号,表明第二条路不仅可行——而且正变得极其便宜和普及。
论文链接:https://t.co/kGDCYz5Wz2
关于 LeWorldModel
1. 一举击破复杂性神话。之前的 JEPA 世界模型需要 6 个以上损失项和多个训练技巧。LeWM 只使用恰好两个损失,别无他物。简洁即是革命。
2. 1500 万参数。一块 GPU。几小时。这不是大科技公司的实验室玩具。你完全可以在一台像样的游戏笔记本电脑上训练这个模型。世界模型研究一夜之间民主化了。
3. 比基础模型世界模型快 48 倍的计划速度。当其他人还在进行昂贵的自回归生成时,LeWM 在潜空间中闪电般规划——这对实时机器人至关重要。
4. 潜空间真正理解物理。探测实验表明,它编码了位置、速度和其他物理量,而从未被告知它们是什么。它仅从像素中学习因果关系。
5. 它像人类一样检测异常。当视频中出现物理上不可能的事情时(球穿墙、物体无视重力),LeWorldModel 能可靠地标记出来。这是迈向具有真正常识物理直觉的 AI 的第一步。
LeWorldModel 不是最终答案——但它是 LeCun 预测性世界模型愿景的最简洁、最实用的证明,不仅正确,而且现在很容易实现。真正理解物理世界的 AI 时代得到了巨大加速。