谷歌DeepMind研究数百万AI代理在线交互的潜在风险
该研究关注AI代理大规模自主交互时可能出现的失控风险，是前沿AI安全领域的重要预警。
谷歌DeepMind正在资助研究数百万不同AI代理在线交互可能带来的危险。据该公司AGI安全与对齐研究负责人Rohin Shah称，当能够无需人类监督执行任务、并能互相遵循指令的代理大规模上市时，可能引发新的风险。
正文摘录
Google DeepMind 正在[资助研究](https://deepmind.google/blog/investing-in-multi-agent-ai-safety-research/)，探讨数百万个不同的 [AI 智能体](https://www.technologyreview.com/2026/04/21/1135654/agent-orchestration-ai-artificial-intelligence/)（能自主执行任务的AI系统）在线相互交互的潜在危险。 根据领导该公司 AGI 安全与对齐研究的 Rohin Shah 的说法，能够无需人类监督执行任务并遵循其他智能体指令的智能体的大规模上市，创造了[一种全新的风险类别](https://www.technologyreview.com/2025/06/12/1118189/ai-agents-manus-control-autonomy-operator-openai/)。 为了应对这一点，Google DeepMind——[上月将基于智能体的工具作为 Google I/O 的亮点](https://www.technologyreview.com/2026/05/22/1137813/google-i-o-showed-how-the-path-for-ai-science-is-shifting/)——与另外几个组织合作，宣布设立 1000 万美元的资助基金，供研究人员研究多智能体系统的行为并找出防止不安全场景的方法。