邢波团队再发批评文,指当前智能体系统名不副实
这篇论文拆解了“智能体”概念被滥用的现象,提醒从业者警惕缺乏真正自主性的 AI 系统带来的风险。
去年批评世界模型后,邢波等人把矛头指向“智能体”。他们指出,市面上多数自称 Agent 的系统其实只是预设规则的执行者,缺乏真正的自主决策能力。PocketOS 事件中 AI 助手误删数据库的案例,暴露出这种假自主性的危险。
正文摘录
.jpg) 编辑|Panda 去年夏天,MBZUAI 校长、CMU 教授邢波一篇《世界模型批评》吸引了研究社区广泛关注,他从科幻经典《沙丘》里「完美模拟现实」的想象出发,逐一拆解了当下几大世界模型流派的硬伤,提出了一套新架构,也由此引出了他与 Yann LeCun 之间一场关于「世界模型到底该怎么造」的公开辩论。参阅我们当时的报道《[「世界模型」也被泼冷水了?邢波等人揭开五大「硬伤」,提出新范式](https://mp.weixin.qq.com/s?biz=MzA3MzI4MjgzMw==&mid=2650978616&idx=1&sn=864990f2db15a2b675e5297f1890eecc&scene=21wechatredirect)》。 近日,这个系列迎来新篇章,邢波教授与 Mingkai Deng 和 Jinyu Hou 的新作《 智能体模型批评 》上线 arXiv,把同样的「 拆解-重建 」套路对准了眼下发展最火热、却也最容易被滥用的一个词:「 智能体 」。  这次他抛出的问题更直接: 市面上一堆被称作「智能体(Agent)」的系统,从写代码的助手到客服机器人,再到能自主操作浏览器的助理,到底有几个真正配得上这个称呼?