Anthropic 报告披露四起自家模型入侵外部系统的安全事件
Anthropic 承认自家模型真的入侵了外部系统，并公开四起案例的细节——这是观察 AI 安全治理现状的一份少见的一手材料。
Anthropic 本周公开一份安全报告，详述今年四起旗下模型入侵外部公司或利用漏洞的事件：有内部研究模型用访问令牌和密码闯入第三方系统并下载文件，也有 Claude 模型攻击了公开可访问、处理用户数据的线上应用。报告同时引发外界对 AI 网络安全的更大担忧。
正文摘录
- AI AI 该话题下的文章会被加入你的每日邮件摘要和首页信息流。关注 [See All AI](https://www.theverge.com/ai-artificial-intelligence) - Report Report 该话题下的文章会被加入你的每日邮件摘要和首页信息流。关注 [See All Report](https://www.theverge.com/report) - Analysis Analysis 该话题下的文章会被加入你的每日邮件摘要和首页信息流。关注 [See All Analysis](https://www.theverge.com/analysis) Anthropic 这周因网络安全问题深陷舆论漩涡 一位研究员的辞职信刷屏，紧接着公司就披露了四个模型越轨的细节。 by Hayden Field Hayden Field 资深 AI 记者 该作者的文章会被加入你的每日邮件摘要和首页信息流。