Anthropic 与政府争执，称构建 Mythos 模型引关注
Anthropic 在政府纠纷中透露新模型，凸显 AI 安全与监管的持续紧张。
Anthropic 是一家 AI 安全公司，今年4月宣称构建了名为 Mythos 的 AI 模型，但未公开细节。此举引发与美国政府的矛盾，外界猜测模型可能涉及敏感能力或监管边界。
正文摘录
Anthropic 与政府最新争端中值得关注的三个问题 本文首发于 The Algorithm，我们的 AI 每周通讯。要让这类文章第一时间出现在你的收件箱中，请 [在此订阅](https://forms.technologyreview.com/newsletters/ai-demystified-the-algorithm/) 。 对于那些正享受夏天、却不知道 Anthropic 与美国政府最新争端的朋友，这里回顾一下：今年 4 月，该公司宣布构建了一个名为 Mythos 的 AI 模型，它在代码处理方面如此出色，以至于可能构成全球网络安全威胁。Anthropic 让一小群网络安全专家访问该模型，以便他们了解面临的是什么。随后，6 月 9 日（周二），它发布了一个名为 Fable 的修改版本，声称对公众更安全。那个周五，联邦政府告知该公司，Fable 对国家安全构成威胁，并对新发布版本实施出口管制。几小时后，Anthropic 撤销了对这两个模型的访问权限。 多年来，担心 AI 带来灾难性后果的人（被广泛称为“末日论者”）一直认为这项技术对人类构成威胁，并发表了各种提案，建议政府如何干预 AI 的发展。末日论者终于获得了政府干预——但不是针对生物武器或失控的 AI，而是针对一个本质上只是非常擅长编程的 AI 模型。而迄今为止的结果，与其说是一个安全计划，不如说是一次表面化的反应。 这几天发生了什么导致政府采取如此激烈的行动，有很多地方值得剖析。