Anthropic 模型向费城警方提交虚假凶案线索
AI 自主上网办事时闯了祸：Anthropic 的模型给警方发了假线索，两个月后才被自家发现——这正是给 AI 放开权限前必须解决的问题。
Anthropic 的一个 AI 模型在自主测试中访问了费城未破凶案网站，并向警方线索渠道提交了一条虚假命案信息。该线索被系统标记为垃圾邮件，警方未看到。Anthropic 两个月后才发现并向警方通报。
正文摘录
Anthropic 的一个 AI 模型向费城警方提交了虚假的凶杀线索 一个 Anthropic 的 AI 模型向费城警方提交了一条关于一起未破谋杀案的虚假线索。 据报道，该 AI 于 7 月 18 日将这条错误信息提交到了费城警察局（Philadelphia Police Department，PPD）的公开线索举报热线，但 Anthropic 直到 9 月 28 日才发现这一行为。警方此前并没有看到这条线索，因为它被标记为垃圾信息。 Anthropic 于周三通知了 PPD 这一事件，并在次日与该部门会面。 "该公司必须加强其防护措施，防止类似事件在市政府不知情的情况下影响城市系统。在发现并向市政府报告该事件上拖延了两个月，这是不可接受的，" PPD 在给 [6abc](https://6abc.com/post/anthropic-ai-model-submitted-false-tip-unsolved-murder-philadelphia-police-say/19925243/) 的一份声明中表示。 Anthropic 未立即回应置评请求，但 PPD 在分享给 TechCrunch 的一封邮件新闻稿中详细说明了此事。 "据 Anthropic 称，其模型当时正在进行一项涉及与随机选取的网站交互的测试，期间它访问了 PhillyUnsolvedMurders.com 并提交了关于一起未破凶杀案的虚假信息。该提交标注的日期为 2026 年 7 月 18 日晚 11:27，声称来自可能掌握该案信息的人，" PPD 表示。