Hinton 等 22 位学者发布首篇 RSI 论文,探讨智能爆炸
22 位学者联合论证:当 AI 能长期串起完整研发流程、且实例可复制,软件驱动的智能爆炸首次有了工程路径。
包括 Hinton、Bengio 在内的 22 位研究者发布首篇 RSI(递归自我改进,即 AI 参与改进下一代 AI 的循环)论文,讨论自动化 AI 研发是否会触发智能爆炸。作者认为关键在 AI 能否把假设、实验、分析串成长链,且 AI 研究员可复制、可 24 小时工作。
正文摘录
咱诺贝尔物理学奖、图灵奖得主 Hinton 的首篇 RSI 论文,上来就研究一个相当炸裂的问题: 论文名叫《What if automating AI R&D triggers an intelligence explosion?》。 22位作者里,包括两位 AI 教父 Geoffrey Hinton、Yoshua Bengio,强化学习先驱 Andrew Barto,OpenAI 首席科学家 Jakub Pachocki 等一众研究者。 这么多 AI 大牛凑在一起,讨论的正是 AI 领域最古老科幻的「智能爆炸」问题,论文核心观点咱先来一睹为快—— 如果「改进机器」这件事本身,也能被机器做得越来越好,能力增长就可能反过来继续加速能力增长。 这套设想后来成了「智能爆炸」最经典的理论源头,和今年大火的递归自我改进(RSI),其实也算一脉相承。 2026年3月,Claude 能够在仅接受高层次人类监督的情况下自主完成约 1% 的研发工作。 当然了,这个数字不能理解成 Claude 已经自动完成 Anthropic 四分之一的全部研究。 Anthropic 自己也强调,目前 Claude 还没有在哪一类被测 AI 研发工作上达到完全无人监督的水平,但不管咋说,趋势已经很明显了。 论文还提到,截至 2026 年 9 月,OpenAI 内部的 AI 系统已经可以经常完成原本人类员工需要数天完成的研发任务。 真正决定 AI 能不能像研究员一样工作,关键并不只是某个 benchmark 分数有多高。 更重要的是,它能不能把几十个步骤连续串起来,在几个小时、几天,甚至更长时间里持续推进同一个研究目标。 论文综合 benchmark 趋势和实验室内部进展,认为未来几年,AI 有可能自动化大部分 AI 研发工作,甚至完成全部自动化。