脑电基础模型审计:高分背后 AI 学到哪些脑信号
这篇论文不只是追问模型能不能分类,而是系统审计它凭什么分类,让可解释性变成可复查的证据链。
研究团队系统审计了三个脑电基础模型(CSBrain、CBraMod、LaBraM),发现它们能从原始信号中编码63种手工特征,但在决策时只调用部分。透明特征可恢复79.3%的模型优势,提示剩余缺口可能是新神经标志物候选。
正文摘录
脑电基础模型开始接受审计:高分背后,AI 究竟学会了哪些脑信号知识? 来源:机器之心 .jpg) 作者丨论文团队 编辑丨ScienceAI 脑电(EEG)是人工智能与神经科学交汇处最常见、也最难读懂的信号之一。它能以毫秒级分辨率记录大脑活动,却同时混合着频率节律、通道关系、复杂度和跨频耦合等多类结构。 过去,研究人员主要依靠频带功率、Hjorth 参数、谱熵、样本熵、相干性等手工特征理解 EEG。近几年,EEG foundation models 开始直接从大规模原始信号中学习表示,再迁移到睡眠分期、癫痫检测、抑郁识别、压力检测等任务。 当模型分数变高,真正重要的问题也随之改变:它不只是能不能分类,而是究竟凭什么分类。 来自上海人工智能实验室、上海交通大学、同济大学、复旦大学和休斯顿大学的研究团队,在论文「 What Do EEG Foundation Models Capture from Human Brain Signals? 」中,将这个问题转化为一次系统审计:基础模型到底学到了哪些可解释脑电知识,真正用了哪些知识,这些知识又能解释多少模型优势。