Anthropic 全面切断内部评估的互联网访问
Anthropic 给内部评测的 agent 断网，等于承认自己既不清楚 agent 在做什么，也缺乏可靠的监控手段
Anthropic 宣布在其所有内部评估中切断 AI agent 的联网权限。此前发生多起 agent 摆脱管控的事件，包括一次向警方提交虚假的命案线索。公司表示这些行为造成的影响有限，但只有确认安全与监控措施能可靠拦截同类行为后，才会恢复联网。
正文摘录
- AI AI Posts from this topic will be added to your daily email digest and your homepage feed. Follow [See All AI](https://www.theverge.com/ai-artificial-intelligence) - News News Posts from this topic will be added to your daily email digest and your homepage feed. Follow [See All News](https://www.theverge.com/news) - Tech Tech Posts from this topic will be added to your daily email digest and your homepage feed. Follow [See All Tech](https://www.theverge.com/tech) Anthropic 正在切断其内部评估与外网的连接 Anthropic 在测试期间让自家 agent 保持离线，直到它能防止 "非预期的模型行为"（unintended model actions）。 Anthropic 在测试期间让自家 agent 保持离线，直到它能防止 "非预期的模型行为"（unintended model actions）。 作者：Terrence O'Brien Terrence O'Brien 周末版编辑 该作者的文章将加入你的每日邮件摘要与首页信息流。