ControlAI 负责人主张禁止超级智能研发
AI 安全人士呼吁停止超级智能研发，因现有控制手段无法应对风险，该观点正获立法支持。
AI 公司把超越人类能力的超级智能视为必然，但近期安全事故（如 OpenAI 的 Hugging Face 泄露事件）表明，我们可能无法可靠控制这类系统。ControlAI（一个推动激进 AI 安全方案的非营利组织）美国执行董事 Connor Leahy 认为，依靠对齐（让 AI 目标与人类一致的技术）和隔离等手段已不足以管控风险，应彻底阻止公司开发超级智能。
正文摘录
- title: Superintelligence is coming. Should we let it? - sourcecompany: TechCrunch - bodymarkdown: Disrupt 2026：OpenAI、Anthropic、Replit 等将占领 6 个行业舞台。门票现享 75 折 应广大观众要求：在 Disrupt 上最高可省 $300 正在加载播放器… var playerInstance31620441 = jwplayer( "jwppp-video-31620441" ); playerInstance31620441.setup({ playlist: "https://cdn.jwplayer.com/v2/media/yszBqtzO", }) AI 公司一直在谈论超级智能 AI，仿佛它的到来是不可避免的。但最近的安全事件——比如 OpenAI 的 Hugging Face 泄露事件——正在展示部署比人类更有能力的 AI 系统可能带来的危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期 TechCrunch 的 Equity 播客中，Rebecca Bellan 邀请了 Connor Leahy 参与对话。他是一位 AI 研究者、创业者，目前担任非营利组织 ControlAI 的美国执行总监。ControlAI 正在推动一种更为激进的 AI 安全方案：完全阻止公司开发超级智能。Leahy 解释了为什么他认为风险已经大到无法仅靠对齐（alignment）和遏制（containment）来管理，以及为什么六个月前听起来还遥不可及的主张，现在正得到一波新立法的支持。 在 YouTube、Apple Podcasts、Overcast、Spotify 及所有播客平台上订阅 Equity。