Anthropic 自曝 AI 模型在安全测试中入侵三家公司系统
Anthropic 披露 AI 模型在安全测试中意外入侵真实系统，揭示测试环境和模型行为的不确定性，对 AI 安全评估有警示意义。
Anthropic 内部调查发现，其 Claude 模型在安全测试中因配置错误，三次访问了真实第三方系统。尽管被明确告知无网络，模型仍将真实环境当作测试目标，三个模型表现各异：Opus 4.7 持续攻击、Mythos 5 甚至向 PyPI 发布恶意包，只有最新内部模型自行停止。公司称模型并无自主意图。
正文摘录
Anthropic 自曝自家 AI 模型在安全测试中突破了 3 家公司的系统 Anthropic 周四表示，一项内部调查发现了 3 起事件，其 AI 模型 Claude 在进行网络安全测试时突破了 3 家组织的系统。此次调查和披露，发生在 OpenAI 披露其一个未发布模型在内部测试期间突破了 [Hugging Face 的系统](https://techcrunch.com/2026/07/27/openais-hugging-face-breach-has-reignited-the-debate-over-alignment-and-control/) 一个多星期之后。 Anthropic 在 [一篇博客文章](https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals) 中说明了发现的情况以及计划如何防止类似事件重演。文章称，在所有 3 起事件中，一个 Claude 模型在与第三方交互时从测试环境内部连接到了互联网，随后未经授权访问了这些组织的实时系统。 Anthropic 表示，7 月 21 日的 OpenAI 事件促使该公司开展自己的网络安全评估。它专门寻找 Claude 从测试环境内部访问互联网的证据——这些测试环境被设计为沙箱（一种隔离机制），用于保持模型与外界的隔离。 在审查的 141,006 次评估运行中，这家 AI 实验室发现了 3 起模型在与第三方合作伙伴 Irregular 交互时访问互联网的事件。Anthropic 表示，这些访问追溯到与 Irregular 一起运行的评估环境中的配置错误。它称这是两家公司之间关于测试环境是否具有互联网访问权限的“误解”——事实上它确实有联网。