生成式因果测试将语言脑区预测黑箱转化为可读假说
新框架 GCT 把脑区预测模型翻译成可测试的短句，并用实验验证，打开了语言神经科学的黑箱。
AI 模型能准确预测大脑对语言的反应，但内部参数如同黑箱，无法解读。微软等机构提出的生成式因果测试（GCT），先将模型蒸馏为简短文字解释，再用 AI 生成针对性故事在 fMRI 中验证，让预测变成可检验的科学假说。
正文摘录
 概览 - 基于 LLM 的模型能够以高精度预测人脑对语言的响应。但驱动这种性能的本质上是不可读的：一堆学习到的参数，而非任何人都能阅读的科学理论。 - 生成式因果测试（Generative Causal Testing, GCT）——由 Microsoft Research、加州大学伯克利分校、加州大学旧金山分校和哥伦比亚大学合作开发——将这些大脑预测模型蒸馏为简短的文字解释，说明每块皮层区域响应的内容：例如“食物准备”或“地名”之类的短语。 - 然后，GCT 闭合循环：LLM 编写旨在激活目标脑区的新故事，受试者在扫描仪中聆听这些故事，只有当解释正确时，该区域才会亮起。 - 在实验中，GCT 确认了已知的选择性，厘清了长期以来被认为可互换的相邻位置处理区域，并揭示了微小的前额叶“微区域”，这些区域被调谐到特定概念，如对话、时钟时间和度量衡。 语言神经科学中的可解释性问题 过去十年间，LLM 已成为我们拥有的预测人脑如何响应语言的最准确工具。将同一个人听到的故事输入 LLM，该模型的内部表示能以卓越的保真度预测单个皮层斑块的活性。但这种成功伴随一个代价：没有人能读懂这些模型。它们是数百万个不可解析的参数，无法直接转化为解读。一个能预测大脑活动的模型告诉我们某个区域响应对语言，但没有告诉我们它实际捕捉的是什么——是食物、地点、数字，还是其他完全不同的东西。