翁荔博客:Harness 工程如何实现 AI 自我提升
翁荔系统解析 Harness 工程及其自我优化研究,指出 AI 递归自我提升的关键路径与瓶颈,值得关注。
翁荔新博文聚焦 Harness 工程——包裹在模型外、负责编排思考、调用工具与管理上下文的系统。她梳理了多篇自我优化研究,并指出评估标准模糊、奖励作弊等真实瓶颈,探讨 AI 自我提升会先发生在模型权重还是这层“脚手架”上。
正文摘录
刚刚,翁荔(Lilian Weng)又更新博客了!距离她上一次更新《[谨慎对待 Scaling Law](https://mp.weixin.qq.com/s?biz=MzA3MzI4MjgzMw==&mid=2651041319&idx=1&sn=1189d440d7e15d028782e4324fd90ee3&scene=21wechatredirect)》还不到 10 天。要知道,之前她的博客已经断更了 13 个月。不知道这是否意味着她又要开始进入高产模式了?  这一次,她书写的主题是当前大热的 Harness Engineering ,聚焦的正是当下 AI 研究最前沿一个环节:当模型本身的智能已经足够强大时,真正决定它能走多远的,或许是包裹在模型外面的那层「Harness」也就是负责编排模型思考、调用工具、管理上下文、评估结果的那套系统。 翁荔在文中系统梳理了从 ACE、Meta Context Engineering 到 Self-Harness、Darwin Gödel Machine 等一系列围绕「 Harness 自我优化 」展开的研究工作,并试图回答一个更根本的问题: 递归式自我提升(RSI)究竟会先发生在模型权重层面,还是先发生在这层「脚手架」上?