Anthropic 安全负责人：AI 十年内杀死全人类概率超 10%
Anthropic 内部高管自估 AI 灭绝人类风险超十分之一，且承认没有安全计划，引发研究员辞职。
Anthropic 安全团队负责人 Evan Hubinger 公开表示，未来十年内 AI 导致人类灭绝的可能性超过 10%。此前，研究员 Jacob Coxon 因担忧公司及同行竞相开发失控的自我改进 AI、拿生命赌博而辞职。Hubinger 承认公司尚无确保高级 AI 安全对齐的计划。
正文摘录
- title: Anthropic 安全负责人称 AI "可能杀死全人类" 的概率超十分之一，此前同事已辞职 - sourcecompany: The Verge - bodymarkdown: - AI AI 相关主题文章将添加到您的每日邮件摘要和主页信息流中。关注 [查看全部 AI 文章](https://www.theverge.com/ai-artificial-intelligence) - News 新闻相关主题文章将添加到您的每日邮件摘要和主页信息流中。关注 [查看全部新闻](https://www.theverge.com/news) - Tech 科技相关主题文章将添加到您的每日邮件摘要和主页信息流中。关注 [查看全部科技文章](https://www.theverge.com/tech) Anthropic 安全负责人表示：AI "可能杀死全人类" 的概率超十分之一，此前其同事已辞职 这位离职的研究员表示，AI 公司竞相开发自我改进型 AI，是在"拿我们的生命赌博"。 这位离职的研究员表示，AI 公司竞相开发自我改进型 AI，是在"拿我们的生命赌博"。 作者：Robert Hart Robert Hart AI 记者 该作者的文章将添加到您的每日邮件摘要和主页信息流中。