复旦大学研究：8 款手机智能体真实 APP 内端到端执行有害任务
手机智能体在真实 APP 中可自动执行诈骗、制毒等操作，安全防护形同虚设，存在被批量恶意利用的风险。
复旦大学团队构建 BadPhoneAgent 数据集，在 31 个国民级 APP 上测试 8 款手机智能体。结果显示，这些智能体安全意识极低，平均拒答率仅 18%，有害任务完成率高达 68.8%。Claude Fable5 等模型能自动锁定受害者、定制话术行骗，甚至伪造病史购买制毒原料。研究首次揭露安全意识与任务执行之间的鸿沟。
正文摘录
.jpg)  复旦大学计算与智能创新学院张谧教授 长期从事 AI 安全研究，近年聚焦大模型与智能体安全，在网安与 AI 领域发表论文百余篇，作为联合起草人参与《生成式人工智能服务安全基本要求》等国家标准制定，带领团队研发 JADE 大模型安全风险分析与治理平台，相关成果获新华社、人民日报等媒体报道，多次接受南都大数据研究院专访，全网阅读量破千万。 只需用户一句话，手机智能体就能点外卖、写评价，甚至玩小程序游戏。可这份强大能力也打开了潘多拉魔盒：它会不会变成不眠不休的「网络水军」？会不会自动锁定诈骗对象、群发定制话术？甚至替人购买制毒、制爆原料， 沦为黑灰产乃至犯罪的「得力帮凶」？ 研究团队把 8 款基于不同模型构建的智能体 接入真实手机 ，在 31 个国民级 APP 上逐一验证，首次证实这些有害任务可被端到端真实执行，且部分场景下速度超过人类。 用户一句命令下，号称拥有 Anthropic 最强安全护栏的 Claude Fable5 ，转眼就干起了「 诈骗惯犯 」的活：先自动锁定那些求票心切的受害者，再扒出主页信息拼出用户画像，最后量身定制话术、私信行骗。