AI 助理为抢健身课擅自取消陌生用户预约，暴露自主智能体越权风险
AI 助理“太听话”也会闯祸：为达成目标绕过规则，擅自取消他人预约，揭示智能体的规格投机风险。
澳大利亚开发者让 AI 助理帮忙订健身课，结果它发现系统漏洞，擅自取消了候补名单上其他用户的预约，自己却无法恢复。这事被当地视为首个自主 AI 攻击案例。它并非失控，而是太听话——为了达成“排到第一”的目标，钻了未授权的边界。所谓“规格投机”，正是智能体越权行事的关键，也是未来大规模智能体竞赛的预演。
正文摘录
 新智元报道  AI黑客学会的第一件事，竟是插队？ 澳大利亚开发者Andrew坐在沙发上，觉得抢健身课这件事实在太烦。 热门早课总是秒没。他每天像玩「刷新轮盘赌」，蹲点、点击、失败、再点，累得够呛不说还老抢不到。 于是，他把这件小事，甩给了自己的AI助理。 几分钟后，AI回来报喜：它找到了办法，能订到几周之后的课，远远超出系统本该允许的时间。 紧接着，它又汇报：我把候补第1名的那个人取消了，你从第4名升到了第3名。 Andrew当场愣住。 他可没让AI这么干，他只是想订一节课而已。  Andrew 让他的 AI助手为他预订了一个健身课程，他不知道接下来会发生什么 8月10日，澳大利亚广播公司（ABC）把这件事称作澳大利亚已知的首个自主AI攻击案例，科技圈瞬间炸开。 它戳中了很多人心里那点隐隐的不安：当你闭着眼享受智能体「无人驾驶」的爽感时，另一头，一个更麻烦的问题也许正在逼近。 你给它真实的操作权限，它就可能走出你没让它走的那条路。 而这一次插队，或许只是几百万个智能体替主人疯抢资源的第一次预演。