动态

建议对高算力AI模型进行强制第三方安全评估,政府有权阻止部署。

Andrew Curran
政策建议:

- 超过一定计算阈值的模型应由合格第三方针对四个特定领域(网络安全、生物武器、AI系统失控、以及可能加速这些风险的自动化研发)进行强制性风险评估。
- 如果根据第三方评估确定模型存在不可接受的风险,政府应有权阻止或延缓其部署。该权力必须限定在上述四个特定风险范围内,并要有防止政治偏袒或任意决策的保护措施。
- 第三方评估可由政府机构(类似FAA)或一组经政府授权和检查的私人组织根据特定标准进行(“监管市场”方法)。
- 开发先进AI模型的AI公司必须制定强大的安全标准来保护模型权重,应定期进行红队测试和渗透测试,并与政府合作防御主要威胁行为者。
- 四个关键领域的安全事件必须及时报告。
动态Andrew Curran2026-06-10原文

相关内容