南开大学联合阿里云提出 PoS,识别并打破 Agent 信念受困
Agent 一直在动作却做不成事,这篇论文把这种停摆定义为可检测、可干预的 Belief Trapping。
智能体持续调用工具,却可能陷入 Belief Trapping(信念受困)——与目标相关的判断不再带来实质进展。南开大学与阿里云提出 PoS,用显式信念状态记录当前世界与未完成要求,以 Belief Health 衡量进展,停滞时定向恢复;12 组实验设置中指标均领先。
正文摘录
.jpg)  任务很简单:把一个加热后的杯子放进柜子。一个智能体先把杯子放进微波炉,再放进柜子,随后陷入反复查看柜子的循环。这个无效行为重复了 36 次,直到耗尽行动预算,任务仍然没有完成。 漏掉的是加热这一步。这是论文在 ALFWorld 仿真任务中展示的一个真实案例:使用完整交互历史的 Raw Trajectory 基线用完 50 步仍然失败,而 PoS 在 17 步内完成了同一任务。动作一直在发生,关键要求却始终没有被满足。  图 1 加热杯子任务中的两条执行路径。原始轨迹基线漏掉加热环节后持续查看柜子;PoS 显式保留尚未完成的加热要求,并在停滞时引导恢复。