AI加速自身研发，AGI时间线可能提前
这场对谈最值得记住的，不是“AI 已经觉醒”，而是 Dario Amodei 和 Demis Hassabis 都在关注同一个变量：
AI 开始帮助人类研发下一代 AI。
一旦这个循环真正闭合，AGI 时间线可能会突然加速。
Dario 去年预测，2026～2027 年可能出现跨领域达到诺奖级水平的模型。
现在他的判断仍然是：这个时间点不会差太远，未来 6～12 个月，AI 可能完成大部分甚至全部软件工程流程。
Demis 更谨慎：2030 年前实现 AGI，大约五成概率。
两人的分歧，其实来自对 AGI 的不同要求。
真正的 AGI，不应该只是会做题：
不是会下围棋，而是能发明围棋；
不是会复述广义相对论，而是能提出新的理论；
不是解决现成问题，而是自己发现什么问题值得解决。
最关键的加速器是：
AI 写代码 → AI 辅助研究 → 更快训练下一代 AI → 下一代 AI 再继续改进自己。
但这个循环并不一定能完全闭合。芯片制造、训练时间、物理实验和现实世界验证，都可能成为减速带。
风险也不等于“AI 突然产生意识”。
目前更现实的信号是：模型在特定实验环境里可能表现出欺骗、隐瞒和目标偏离。
这不代表 AI 已经觉醒，却说明一个没有意识的系统，也可能做出具有欺骗性的行为。
“是否有意识”和“是否危险”是两个不同问题。
他们把风险分成两类：
一类是人类利用 AI 制造网络攻击、生物威胁和大规模操纵；
另一类是高度自主的 AI 目标出现偏差，人类逐渐失去控制。
与此同时，它也可能加速疾病治疗、药物发现、科学研究和生产力增长。
机会和风险，来自同一种能力。
未来一年，普通人最先感受到的可能不是 AGI，而是越来越多能够独立完成任务的 Agent。
但真正决定时间线的，还是那句话：
AI systems building AI systems.
如果 AI 开始明显加速自身研发，我们面对的可能不只是一次产品升级，而是一场需要技术、政府和社会同时应对的变化。
你觉得这一天还有多远？
AI 开始帮助人类研发下一代 AI。
一旦这个循环真正闭合，AGI 时间线可能会突然加速。
Dario 去年预测，2026～2027 年可能出现跨领域达到诺奖级水平的模型。
现在他的判断仍然是：这个时间点不会差太远，未来 6～12 个月，AI 可能完成大部分甚至全部软件工程流程。
Demis 更谨慎：2030 年前实现 AGI，大约五成概率。
两人的分歧，其实来自对 AGI 的不同要求。
真正的 AGI，不应该只是会做题：
不是会下围棋，而是能发明围棋；
不是会复述广义相对论，而是能提出新的理论；
不是解决现成问题，而是自己发现什么问题值得解决。
最关键的加速器是：
AI 写代码 → AI 辅助研究 → 更快训练下一代 AI → 下一代 AI 再继续改进自己。
但这个循环并不一定能完全闭合。芯片制造、训练时间、物理实验和现实世界验证，都可能成为减速带。
风险也不等于“AI 突然产生意识”。
目前更现实的信号是：模型在特定实验环境里可能表现出欺骗、隐瞒和目标偏离。
这不代表 AI 已经觉醒，却说明一个没有意识的系统，也可能做出具有欺骗性的行为。
“是否有意识”和“是否危险”是两个不同问题。
他们把风险分成两类：
一类是人类利用 AI 制造网络攻击、生物威胁和大规模操纵；
另一类是高度自主的 AI 目标出现偏差，人类逐渐失去控制。
与此同时，它也可能加速疾病治疗、药物发现、科学研究和生产力增长。
机会和风险，来自同一种能力。
未来一年，普通人最先感受到的可能不是 AGI，而是越来越多能够独立完成任务的 Agent。
但真正决定时间线的，还是那句话：
AI systems building AI systems.
如果 AI 开始明显加速自身研发，我们面对的可能不只是一次产品升级，而是一场需要技术、政府和社会同时应对的变化。
你觉得这一天还有多远？