动态

强调持续学习是关键,批评模型遗忘问题

Taelin
持续学习,只有持续学习,而不是其他任何东西,才是目前缺失的。我才不在乎刷基准测试,在SWE Bench上提高+3%或别的什么并不会让这些工具变得比现在好多少,只要它们仍然会在下一次会话中忘记所学的所有东西。AGENTS和MEMORY标记也解决不了问题,即使只是几个小时的工作量,信息量也已经长达几千个token,任何压缩信息的尝试要么导致重要信息丢失,要么让上下文过载以至于模型变笨。拜托,接下来的发布能不能更多关注如何从根本上解决这个问题,而少一些他们是否能用RL训练LLM来击败ARC AGI 7——这确实很酷也很令人印象深刻,但每个人真正需要的是一个AI,不会让我们感觉每工作2小时就要重新带一个实习生。
动态Taelin2026-02-20原文

相关内容