DeepMind CEO呼吁设立独立标准机构监管前沿AI
DeepMind CEO提出类似FINRA的独立机构来测试和监管前沿AI,旨在平衡创新与安全,避免政治化审查。
Google DeepMind CEO Demis Hassabis提议效仿美国金融业监管局FINRA,成立一个独立的标准机构,对前沿模型(能力接近通用人工智能的AI系统)在发布前进行安全测试。该机构由AI实验室资助但独立运营,先自愿审查,后强制要求通过评估才能在美国市场部署。此举旨在解决此前美国政府临时审查缺乏专业知识和不透明的问题。
正文摘录
在周二早上的 X 帖子中,Google DeepMind CEO Demis Hassabis 呼吁成立一个新的监管机构来监督前沿模型(frontier model)的发布。这篇题为 [“A Framework for Frontier AI and the Dawning of a New Age”](https://x.com/demishassabis/status/2076957440109625718) 的帖子主张建立一个仿照 [美国金融业监管局](https://en.wikipedia.org/wiki/FinancialIndustryRegulatoryAuthority) (FINRA) 的“标准机构”(standards body),该机构可以测试前沿模型并为其发布制定最佳实践。 “起初,前沿实验室会自愿在模型发布前 30 天内与标准机构共享模型以供审查,”帖文中写道。“一旦评估协议被证明有效且稳健,就可以迅速推进正式化,这意味着前沿模型必须通过该协议才能在美国市场部署。实验室还将与标准机构合作,解决发布后的关键漏洞。” 提议的系统将建立在美国政府此前对 Anthropic 的 Mythos 和 OpenAI 的 Sol 进行的临时审查基础上。那些审查因缺乏技术专长以及决定模型何时可以发布的决策过程不透明而招致了 [显著批评](https://techcrunch.com/2026/06/26/its-not-about-anthropic-vs-openai-anymore/)。在 Hassabis 提议的监管框架下,这些决策可以移交给一个新组织,该组织由美国政府支持,但由 AI 行业资助并独立运营。 AI 监管的前景对于科技行业和特朗普政府而言仍具争议。