Nature Machine Intelligence：人脑 fMRI 信号可引导语言模型提升推理鲁棒性
一项把「模型像不像大脑」推进到「用脑信号改模型」的研究：脑活动可以给出引导方向，让语言模型的推理更稳。
北大、清华与微软亚洲研究院的研究者发现，语言模型内部表征与人脑推理脑区的任务态 fMRI 活动存在部分对齐：模型能解释推理相关脑区约 76% 的可解释方差。研究者进一步把脑信号转成模型隐空间中的引导方向，在推断阶段干预表征或微调参数，纠正模型答错而人类答对的演绎推理题。
正文摘录
.jpg)  语言模型和人脑，是否使用相似的方式推理？ 从神经科学的视角来看，语言并不等同于思维。2024 年 Nature 的一篇观点文章综合了神经科学及相关领域的证据指出，支持语言加工的核心脑网络与支持推理等复杂思维的系统可以相互分离：语言能力受损时，部分复杂思维能力仍可保留；而在完成推理、规划等任务时，大脑主要依赖不同于核心语言网络的神经系统。由此而言，语言更接近一种服务于交流的信息传递系统，而非复杂思维发生的必要条件 [1]。 这一视角让大语言模型所表现出的认知能力更值得探究。语言模型主要通过语言数据与下一个词元预测目标进行训练，却已能够完成推理、规划和工具使用等超出传统语言加工范畴的任务。这究竟只是对训练语料统计规律的利用，还是模型以语言为载体学到了一部分类似人脑的潜在认知能力的内部表征？ 既有 NeuroAI 研究发现，语言模型的内部表征与人脑语言网络活动之间存在一定对应关系 [2]，多模态大模型也能够形成与人类物体概念表征部分相似的结构 [3]。然而，对于逻辑推理这类超越语言加工本身的高阶认知任务，语言模型与人脑表征的关系仍缺乏系统证据。