Anthropic 提出 AI 安全法案草案：模型若可致 50 人以上死亡即应被阻止发布
Anthropic 把“灾难性风险”写成了可量化的门槛和一套评估、上报、司法叫停流程，这为 AI 监管提供了具体可讨论的方案，但由谁来评估、评估方由实验室付费是否影响独立性，仍是争议焦点。
据 Politico 报道，Anthropic 正在推动一份 AI 安全法案草案，希望国会采纳。草案规定，当模型可能带来“可预见、迫在眉睫”的风险，比如导致 50 人以上死亡、10 亿美元以上财产损失，且风险源于生物武器、模型绕过开发者控制或网络攻击时，模型发布可被叫停。判定由在商务部注册的独立评估方负责，评估方最长可用 72 小时上报，随后由商务部向华盛顿特区法官申请叫停，联邦机构不得自行决定封禁。
正文摘录
Anthropic 提出 AI 安全法案：若可能导致 50 人以上死亡，可阻止模型发布 过去一年，围绕人工智能可能带来的危险，担忧不断发酵；关于 AI 安全应走什么路径，争论也持续激烈。如今，Anthropic 似乎拿出了自己的一套设想，说明政府应如何监管这个行业。 Politico [近日报道](https://www.politico.com/news/2026/10/16/anthropic-ai-safety-01124654)，这家 AI 实验室一直在四处推介一份新的 AI 安全法案草案，希望国会考虑采纳。该立法设定了某些情形：在这些情形下，AI 模型的发布可以被阻止。 据 Politico 报道，这些情形涉及“可预见、迫在眉睫的风险”——即可能造成 50 人以上死亡，或可能导致超过 10 亿美元财产损失。该媒体指出，所涉灾难性风险必须“源于生物武器的制造或释放、模型规避开发者控制，或网络攻击”。 这里给出的衡量标准——50 人和 10 亿美元——与加州最近通过成为法律的一项立法 [Senate Bill 53](https://www.brookings.edu/articles/what-is-californias-ai-safety-law/) 相似；该法同样将这类情形定义为等同于“灾难性风险”。 Anthropic 的法案提出，对模型灾难潜力的分析，可以由在美国商务部注册的“独立评估方”完成。据 Politico 报道，这些评估方可能由 AI 实验室自己付费——只要“付费不以评估结果为条件”。 目前不清楚这一拟议制度如何确保付费不会影响评估。