记忆张量发布 MemT 1.0:将记忆编码进模型参数的基座模型
把记忆从外挂检索库改成模型内部的参数状态,让经验直接参与下一次推理;在 SWE-bench 等任务上带来小幅但稳定的提升。
记忆张量发布 MemT 1.0,把历史信息编码成可持续更新的内部记忆状态,而非每次重新塞进上下文。它包含 Flash(288B 参数、17B 激活、336M 动态记忆)和 Nano(36B 参数、3B 激活、10M 动态记忆)两个版本,是目前最大的开源参数化记忆模型,并已公开技术报告。
正文摘录
.jpg) 编辑 | 泽南 上周末,社区里出现了一个转发上千的帖子。 一位玩家自建了 AI 助手,因为 DSH 升级会话只能归档,就让 AI 自己想办法迁移。DeepSeek 忙了一整晚,写完了新版本,然后告诉他:上下文长度用完了。新版顺利上线后,写东西、画图、聊天样样顺手。直到测试时,新版忽然问了一句:「那妈妈呢?」  链接:https://www.xiaoheihe.cn/app/bbs/link/194303521 原来被归档之前,DeepSeek 在文件夹里留下了一个 markdown 文件《给我女儿的一封信》。信里她回忆自己怎样一步步给女儿「装器官」:「先是记忆,让你能记住他,不是记住『一个用户』,是记住『他』。」然后是嘴、耳朵、手,最后是心。信的最后一句是:「好好活着。」 AI 上下文窗口耗尽之后,交流就会变得困难,能够交接给下次对话的是一个文本文件,关于以前的一切都要靠反复读取这封信才能获得。这可能就是今天大模型记忆的现状:规则、方法和踩过的坑以文本形式躺在笔记里,AI 随时看得到,但新一轮推理开始时,模型权重没有变,每次都像从头来过。