西交大提出 QQWorld:改进世界模型正则化,规划成功率提升 5.33 个百分点
QQWorld 用分位数匹配取代 Epps-Pulley 正则,改善世界模型潜变量分布,仅需 10 行代码就将规划成功率提升 5.33 个百分点。
LeWorldModel 用 JEPA(联合嵌入预测架构)从像素学习环境动力学,但其正则化存在尾部盲区,极端潜变量难以被纠正。西安交大提出 QQWorld,用分位数匹配替代原方法,平均规划成功率从 79.75% 提升至 85.08%,核心代码不足 10 行。
正文摘录
.jpg)  2026 年 3 月,Yann LeCun 等人提出 LeWorldModel(LeWM)。它采用联合嵌入预测架构(JEPA),从原始像素中学习环境动力学,并通过高斯分布正则抑制表示坍塌,使端到端世界模型可以使用更为简洁的目标稳定训练。 然而, 西安交通大学研究团队 发现,即使施加了高斯正则,模型学习到的潜变量分布仍可能呈现明显的重尾现象,即少量潜变量远离主体分布,形成极端表示。 进一步分析表明,LeWM 使用的 Epps–Pulley(EP)正态性目标存在一个容易被忽略的「尾部盲区」:它能够判断整体分布是否偏离高斯,却难以持续纠正少量已经远离主体分布的极端潜变量。对于这类样本,EP 目标产生的校正梯度会迅速减弱,使其在训练过程中难以被有效拉回。这些远离主体分布的重尾样本落入训练数据稀疏的潜空间区域后,模型难以从中学习可靠的场景特征表征,进而影响后续的动力学预测与规划。 针对这一问题, 研究团队提出了 QQWorld :用 quantile–quantile matching,也就是分位数 — 分位数匹配,替换 LeWM 原有的 EP 正则。