Anthropic 在 agent 中引入 sleep 机制

Anthropic 刚刚为 agent 引入了睡眠功能。当你睡觉时，你的海马体在 150-220 Hz 的尖波涟漪（sharp-wave ripples）中向皮层重放白天的神经序列。重放速度约为原始体验的 20 倍。一个 10 秒的序列被压缩到大约 500 毫秒。Wilson 和 McNaughton 在 1994 年用老鼠证明了这一点。你昨晚在不知不觉中对你昨天所做的一切运行了这个算法。重放同时做两件事：提取统计模式——什么重要、什么可泛化、哪些序列预测了奖励；并将记忆痕迹从海马体依赖的存储重组到新皮层，这就是为什么旧记忆能在海马体受损后幸存，而近期记忆不能。用光遗传学破坏老鼠的尖波涟漪，老鼠在第二天的任务中失败。重放是因果性的，而非相关性的。如今大多数“agent 记忆”只是一个搜索引擎。过去的会话被嵌入，在下次调用时检索相关片段。这对事实有效。但它不提取模式，也不重组痕迹。这就是 agent 停滞不前的原因：记忆容量不断增长，而实际能力却趋于平稳。做梦会回顾过去的会话、提取模式、整理记忆。这是大脑实际的三步算法。他们称之为做梦，因为算法在做大致相同顺序、大致相同原因的事情。能够在会话之间做梦的 agent 将会累积优势。而那些仍在原始上下文窗口中运行的 agent 将遭遇与人类通宵达旦时相同的天花板。