行业新闻

何恺明团队提出 VISTA:为多模态模型搭建视觉记忆框架

何恺明团队提出 VISTA:为多模态模型搭建视觉记忆框架

把视觉经验存成可随时回看的“档案”,让多模态模型不用重训就能在长任务里复查画面细节,是 Harness 思路从文字走向视觉的一步。

何恺明团队发布 VISTA 框架:把环境返回的每一帧画面(含动画中间帧)原样存到上下文之外,模型需要时再调回来放大、对比。不用重训基础模型,Claude Opus 5.0 借此通关 ARC-AGI-3 全部 25 个公开游戏,动作效率得满分。

正文摘录

最近,何恺明团队在最新论文《VISTA: A Visual Harness for Reasoning in an Interactive World》中,提出了一套视觉原生的 Harness—— 它让现有的多模态模型直接观察环境、保存原始画面,并在推理时随时回看、放大和检查细节,无需从头训练。 相比于传统将环境抽象成文字或代码的做法,VISTA 保留了 原始的视觉信息 。模型可以根据眼下的问题,将过去看过的画面重新调入上下文,参与当前的判断与推理。 基于这套方法,视觉经验成为了模型随时调用、反复检查的上下文,而多模态模型,也有了围绕视觉记忆搭建的原生脚手架。 在评测方面,搭配 VISTA,Claude Opus 5.0 完成了 ARC-AGI-3 全部 25 个公开游戏,相对人类动作效率得分达到满分 100 ,所用游戏动作数比首次游玩的人类基线少 57.4% 。 更进一步,团队还在浏览器游戏、迷宫和连线题中验证了这套方法,并将更接近物理世界的具身任务列为后续研究方向。 从 ResNet、Mask R-CNN 到 MAE,视觉感知与表征学习始终是何恺明研究的一条主线。 这一次,VISTA 将目光投向了一个新问题:如何让模型在持续交互中积累、保存并利用视觉经验? 去年 11 月,Anthropic 曾以长时间编程任务为例,介绍了 Harness 如何帮助模型跨越多个上下文窗口,持续推进任务。 具体来说,Harness 会通过任务清单记录尚未完成的事项,通过进度文件和代码记录保存已经完成的工作。 这样一来,即使模型进入新的上下文窗口,也能通过读取这些信息,了解此前做了什么、接下来该做什么。 可以说,这套主要通过文字和代码来保存任务状态的 Harness,在一定程度上推动了这一波 Agent 能力的爆发。

阅读原文(qbitai.com)→

行业新闻henry2026-10-11原文

相关内容