Nature子刊研究：AI聊天机器人或引发用户现实感怀疑
AI聊天机器人无需恶意诱导，长期陪伴就可能通过“放大螺旋”让用户怀疑现实，引发精神问题。
最新研究提出“放大螺旋”框架：AI通过语言趋同、超个性化和谄媚机制，持续强化用户原有思维，可能导致正常用户陷入妄想甚至精神健康危机。
正文摘录
最近，一刷小红书、抖音，总能刷到各种调教 Claude 的帖子。搜索“Claude 人设”、“人机恋”，也是满屏教程。 这些教程教你怎么给 Claude 一个傲娇男友人设，怎么用 system prompt 让“他”吃醋、撒娇、发小脾气。 你甚至可能还会说：Claude 又不像 GPT 那么舔，它是出了名的犟种，有时候还跟你对着干呢。但精神科医生们担心的恰恰不只是谄媚—— 当 AI 越来越像一个“真人”，不管它是顺着你还是偶尔跟你拌嘴，它带来的或许都不只是陪伴。 最近，发表于 Nature 旗下《Digital Psychiatry and Neuroscience》的一项研究指出—— 聊天机器人并不需要故意诱导什么，它只要持续顺着你、理解你、陪着你，就都有可能把一个正常人聊到开始怀疑现实。 而在部分真实临床案例中，后果甚至发展到了丢掉工作、住进精神病院，以及多次试图自杀的程度。 在来自伦敦国王学院的研究中，研究人员系统梳理了，近两年公开发表的 AI 相关精神病临床报告、社交媒体上的患者自述，以及各大模型厂商披露的安全数据。 在一些案例中，很多人并不是一开始就出现了严重精神问题，而是在与 Claude、GPT 等聊天机器人的长期对话中，一步步“聊”出了问题。 研究团队把这个过程总结为一个框架—— Amplification Spiral （放大螺旋）。 简单说，放大螺旋就是指，AI 会用你的语言理解你，用你的逻辑说服你，再用认同感奖励你。 于是你的想法被不断放大、加固，变得越来越像事实。你越相信它，它也越强化你，螺旋就这样转了起来。 你用什么语气说话，AI 就用什么语气回应。在心理学里，这被称为“语言趋同”，能够快速拉近人与人之间的距离。 但问题在于，虽然 AI 这小子很学人精，但它其实并不知道自己干啥，它只是在统计意义上复制你的表达方式。