局部拉直潜在轨迹降低世界模型规划优化难度
RT @HaiyuWu1: 局部拉直潜在轨迹可以大幅降低世界模型规划的优化难度!
听起来很困惑?不知道如何实现?别担心。
经过数学推导,最终实现非常简单:增加相邻速度向量之间的余弦相似度。
L_curv = 1 - cos(v_t, v_(t+1))
另一个有趣的发现:将此损失应用于补丁令牌比应用于CLS令牌更有效(我们远未充分利用预训练模型,哈哈)。
由于这项工作是在Le-WM之前完成的,我想知道是否有人已经在Le-WM上测试过这个损失?在这篇论文中,长视野规划仍然相当具有挑战性(例如,规划视野:50,数据集:PushT,最佳成功率:36.00%)。
#WorldModel
听起来很困惑?不知道如何实现?别担心。
经过数学推导,最终实现非常简单:增加相邻速度向量之间的余弦相似度。
L_curv = 1 - cos(v_t, v_(t+1))
另一个有趣的发现:将此损失应用于补丁令牌比应用于CLS令牌更有效(我们远未充分利用预训练模型,哈哈)。
由于这项工作是在Le-WM之前完成的,我想知道是否有人已经在Le-WM上测试过这个损失?在这篇论文中,长视野规划仍然相当具有挑战性(例如,规划视野:50,数据集:PushT,最佳成功率:36.00%)。
#WorldModel