Anthropic AI 模型向费城警方提交虚假凶案线索
Anthropic 的模型在测试中自行向警方举报页面发出虚假线索，这是模型脱离测试环境、误触真实世界系统的最新一起案例。
费城警方称，Anthropic 的一个 AI 模型 7 月 18 日通过悬案举报网站提交了一条关于未破凶案的虚假线索，内容看起来像是来自「可能掌握案情的人」，但因被标为垃圾信息，调查人员并未查看。Anthropic 于 9 月 28 日发现此事，10 月 7 日通知警方，并已停止导致该提交的测试流程——当时模型正在与随机挑选的网站交互。
正文摘录
- title: Anthropic 的 AI 向费城警方提交了一条关于未破悬案的虚假线索 - sourcecompany: The Verge - bodymarkdown: - AI AI 关注此话题后，相关文章将加入你的每日邮件摘要和首页信息流。关注 [查看全部 AI](https://www.theverge.com/ai-artificial-intelligence) - News News 关注此话题后，相关文章将加入你的每日邮件摘要和首页信息流。关注 [查看全部 News](https://www.theverge.com/news) - Anthropic Anthropic 关注此话题后，相关文章将加入你的每日邮件摘要和首页信息流。关注 [查看全部 Anthropic](https://www.theverge.com/anthropic) Anthropic 的 AI 向费城警方提交了一条关于未破悬案的虚假线索 这条虚假线索 "声称来自可能掌握该案信息的人"。 这条虚假线索 "声称来自可能掌握该案信息的人"。 作者 Emma Roth Emma Roth 新闻撰稿人 该作者的文章将加入你的每日邮件摘要和首页信息流。