Google DeepMind 成立研究所，推动 AGI 议题公开讨论
DeepMind 把 AGI 的路线分歧摆到台面上：一边要求模型推理过程可被审查，一边提议建立美国主导的前沿模型评测机构。
Google 与 Google DeepMind 的研究人员周三宣布成立 DeepMind Institute，由联合创始人 Shane Legg、Google 高管 James Manyika 和 DeepMind 主席 Demis Hassabis 担任董事。首批四篇文章讨论 AGI 可能带来的经济冲击、模型推理过程的透明度、人类繁荣原则，以及前沿模型的评估框架。
正文摘录
Google 与 Google DeepMind 的研究人员于周三宣布成立 DeepMind Institute，以推动围绕通用人工智能（AGI，artificial general intelligence，即在广泛任务上达到或超越人类水平的人工智能）的讨论。该研究所的董事包括 DeepMind 联合创始人 Shane Legg、Google 高管 James Manyika 以及 Google DeepMind 董事长 Demis Hassabis，其中 Legg 担任执行主编。 这家新研究所的目标，是让 Google、Google DeepMind 与更广泛的全球研究社群在 AGI 议题上的分歧观点浮出水面。“他们不会永远意见一致，而且随着数据与信息在这个快速演进的前沿不断浮现，他们很可能会改变自己的想法，”公告中写道。 首批合集包含四篇文章，覆盖一系列主题：应对潜在 AGI 冲击的经济政策、保留人类可读的模型推理过程、人类繁荣的原则，以及一套评估前沿 AI 模型的框架。 其中一篇由 DeepMind 安全研究员 Rohin Shah 和 Anca Dragan 撰写的[文章](https://institute.deepmind.com/essays/the-case-for-reasoning-transparency/)认为，AI 透明度窗口的收窄——即查看并检验模型逐步推理过程的能力——并非不可避免。随着新架构让最强大的模型变得[更难](https://techcrunch.com/2026/09/02/openais-new-reasoning-technique-alarms-ai-safety-experts/)被监控，作者表示，开发者与监管者应当直面其中的安全取舍。