行业新闻

南开大学联合阿里云提出 PoS,识别并打破 Agent 信念受困

Agent 一直在动作却做不成事,这篇论文把这种停摆定义为可检测、可干预的 Belief Trapping。

智能体持续调用工具,却可能陷入 Belief Trapping(信念受困)——与目标相关的判断不再带来实质进展。南开大学与阿里云提出 PoS,用显式信念状态记录当前世界与未完成要求,以 Belief Health 衡量进展,停滞时定向恢复;12 组实验设置中指标均领先。

正文摘录

![](https://image.jiqizhixin.com/uploads/article/coverimage/219b0ee3-41e9-44d0-83d6-e961cda5e0c1/051(2).jpg) ![图片](https://mmbiz.qpic.cn/mmbizjpg/5L8bhP5dIqFg0WfYlyqqeepLD4C3TibGpjf6FOH7EVuKjibcnDe74qjAU9XhgHylI3WghS7ricbx1ckkNhJHaQ2AnGqG5ZmOdwHJQLl99bxYHU/640?wxfmt=webp&from=appmsg&tp=webp&wxfrom=5&wxlazy=1imgIndex=0) 任务很简单:把一个加热后的杯子放进柜子。一个智能体先把杯子放进微波炉,再放进柜子,随后陷入反复查看柜子的循环。这个无效行为重复了 36 次,直到耗尽行动预算,任务仍然没有完成。 漏掉的是加热这一步。这是论文在 ALFWorld 仿真任务中展示的一个真实案例:使用完整交互历史的 Raw Trajectory 基线用完 50 步仍然失败,而 PoS 在 17 步内完成了同一任务。动作一直在发生,关键要求却始终没有被满足。 ![图片](https://mmbiz.qpic.cn/mmbizpng/5L8bhP5dIqE9SjMpfX4tBJnlh2vfF7f8gOMFpichwjv9BMXueLGD1oqDeOjdviaNsbloicX8zLMCpf8Ze4aY6tbxeiaCTVw77hlGficCEZa9F6Kc/640?wxfmt=png&from=appmsgimgIndex=1) 图 1 加热杯子任务中的两条执行路径。原始轨迹基线漏掉加热环节后持续查看柜子;PoS 显式保留尚未完成的加热要求,并在停滞时引导恢复。

阅读原文(jiqizhixin.com)→

行业新闻机器之心2026-10-14原文

相关内容