Meta 提出 World-T³:用测试时训练为视频世界模型写入持久记忆,单卡达 20.6 FPS
World-T³ 让视频世界模型把历史场景按相机位姿写进固定大小的参数化记忆,而非越堆越长的上下文;相机回到旧位置时,模型能忠实还原,还能边生成边实时更新记忆。
视频世界模型在长时间交互中会「失忆」:一旦早先画面的信息滑出注意力窗口,模型就会重新编造场景。Meta Reality Labs 与 UIC、布朗大学的研究者提出 World-T³:在生成过程中,它把「相机位姿→画面内容」写进一组小型快速权重,作为记忆;相机回到旧位置时,模型按相机位姿检索并读回相应记忆。在 120 段「去程+原路返回」测试中,重访 PSNR 从 13.52 dB 升到 18.31 dB;经蒸馏后的 4 步模型在单张 B200 上以 1280×704 分辨率达到 20.6 FPS。
正文摘录
.jpg)  近两年,视频世界模型(video world model)成为生成式 AI 最受关注的方向之一。只需给定一张参考图和一段场景描述,模型就能根据用户输入的相机位姿或控制指令,逐帧生成出一个可以自由漫游的虚拟世界。但当交互从几秒钟拉长到几十秒,一个尴尬的问题就暴露出来:模型会失忆。自回归视频扩散模型在局部总能保持连贯,可一旦之前看到的画面滑出了注意力上下文窗口,模型就只能依靠生成先验重新脑补。 最近,来自 Meta Reality Labs、伊利诺伊大学芝加哥分校和布朗大学的研究团队提出了 World-T³(Test-Time Training)。World-T³ 是一个相机可控的视频世界模型,它在生成过程中通过测试时训练,把滑出上下文窗口的历史观测按相机位姿写进一组专用的快速权重(fast weights);当相机回到曾经到过的位置,模型再以位姿为钥匙,把当时的场景特征读出来。