混合量子启发 Kolmogorov-Arnold 网络用于隐私感知联邦生物信号学习
心电图(ECG)记录是敏感的生物医学数据,限制了医院和可穿戴设备共享原始信号以进行集中式模型训练的能力。联邦学习通过实现协作模型训练,同时将原始生物信号数据保留在各自的来源,解决了这一实际隐私限制。然而,联邦 ECG 分类仍面临挑战,由于客户端样本有限、心律失常标签不平衡以及客户端间的非独立同分布(non-IID)数据。这些约束要求分类器既具有通信效率又对跨客户端分布偏移具有鲁棒性。 在本工作中,我们在 MIT-BIH 数据集上对五类心律失常分类,以及在 INCART 数据集上对三类分类,评估了混合量子启发 Kolmogorov-Arnold 网络(HQKAN)与多层感知机(MLP)在联邦平均(FedAvg)下的表现。在多种客户端配置下,HQKAN 在大多数聚合指标和少数类指标上有所改进,同时在 MIT-BIH 上减少了 37.35% 的可训练参数和 24.89% 的通信成本;在 INCART 上,分别减少了 44.81% 和 36.41%。 这些结果表明,HQKAN 为隐私感知的联邦生物信号学习提供了一种紧凑、通信高效且鲁棒的替代方案,优于 MLP 基线。
论文精读
TL;DR 在联邦 ECG 心律分类中,混合量子启发的 Kolmogorov-Arnold 网络(HQKAN)相比 MLP 参数量减少 37.35%、通信成本降低 24.89%,且多数指标更优,为隐私敏感的 biosignal 学习提供紧凑高效方案。
问题
问题背景
联邦学习(FL)在医疗生物信号领域正成为平衡隐私保护与模型训练需求的关键范式,尤其针对 ECG 等敏感数据,允许跨机构协作而不共享原始信号。
现有方法局限
当前联邦 ECG 分类多采用 MLP 或轻量 CNN 作为客户端模型,但面临三重挑战:
- 通信开销:客户端每次本地更新需上传全部模型权重,在边缘设备或低带宽场景下成本过高。
- 异质性鲁棒性:客户端数据非独立同分布(non-IID)且类别严重不平衡(如罕见心律失常),导致全局模型偏向多数类,少数类召回率低。
- 参数效率:传统 MLP 需较多神经元才能拟合非线性映射,小样本客户端上容易过拟合,同时增加传输负担。
这些问题使得简单替换模型结构远远不够,需要同时优化通信效率、参数效率与对 distribution shift 的鲁棒性。
为什么这个问题难/重要
ECG 数据的标注成本高昂且依赖专家,客户端样本量通常有限;非 IID 分布意味着各站点疾病谱不同,单一模型难以泛化。此外,联邦训练每轮通信都可能包含数十万参数,对于可穿戴设备或远程医疗终端是不可忽视的能耗与延迟。业界对 communication-efficient FL 和 parameter-efficient model 的关注度持续上升,尤其希望在保持诊断准确率的同时降低部署门槛。
行业类比
类似在端侧 NLP 部署 Transformer 蒸馏 时,既要压缩模型体积又要适应不同方言的分布偏移;HQKAN 在联邦 ECG 场景下承担类似角色,用更少参数和通信量换取稳健的跨客户端性能。
核心洞察
- HQKAN 在联邦心电图分类中实现了参数与通信效率的双重压缩,同时保持或提升分类性能。与标准 MLP 相比,在 MIT-BIH 上可训练参数减少 37.35%,通信成本降低 24.89%;在 INCART 上分别减少 44.81% 和 36.41%。这一优势源于 KAN 架构将可学习激活函数置于边而非节点,以更少参数获得更强表达能力,为带宽和算力受限的边缘设备参与联邦学习提供了实用替代方案,尤其适合大规模部署的穿戴式生物信号监测场景。
- HQKAN 对联邦学习中常见的非 IID 与类别不平衡问题表现出更强鲁棒性。在多个客户端配置下,HQKAN 改善多数聚合指标,尤其提升少数类心律失常的检测性能,而 MLP 基线在分布偏移下往往退化。这表明量子启发的特征变换或基础函数设计增强了模型对不同客户端数据分布的适应能力,避免了为每个客户端微调或复杂个性化机制的额外开销,为跨机构协作训练提供了更简洁的解决方案。
方法
输入与预处理
输入为 ECG 记录(MIT-BIH 和 INCART 数据集),经过预处理步骤(如去噪、分段、标准化)转换为固定长度的心拍片段。标签为心律失常类别:MIT-BIH 为五分类,INCART 为三分类。
关键模块:HQKAN 架构
HQKAN(Hybrid Quantum-inspired Kolmogorov-Arnold Network)的核心是 Kolmogorov-Arnold Network (KAN) 结构。与 MLP 在节点上使用固定激活函数不同,KAN 在边(连接权重)上放置可学习的样条激活函数,从而用更少的参数建模复杂非线性关系。HQKAN 进一步引入量子启发组件——这些组件在经典硬件上模拟量子计算的特性(如使用量子电路参数化或量子张量网络启发式激活),以增强表达能力和泛化性,同时避免真实量子硬件的开销。整体架构为轻量级前馈网络,可输出类别概率。
联邦训练流程
采用 FedAvg 算法:各客户端(模拟医院或可穿戴设备)在本地数据上训练 HQKAN,然后将模型参数上传至中央服务器;服务器对参数进行平均聚合,再分发回客户端。针对 非 IID 和类别不平衡,训练中可能采用类别加权损失或客户端采样策略,但论文未明确说明额外技巧。评估指标包括聚合指标(如准确率、宏平均 F1)和少数类指标(如召回率)。
输出
模型输出心律失常类别的概率分布,取 argmax 得到预测类别。
与同类方法的差异:HQKAN 在保持分类性能的同时,将可训练参数量减少 37.35%(MIT-BIH)和 44.81%(INCART),通信成本降低 24.89% 和 36.41%,相比标准 MLP 更适合资源受限的联邦生物信号学习场景。
实验
实验设计与启示
论文在 FedAvg 框架下,将 HQKAN 与 MLP 对比,在 MIT-BIH(五类心律失常)和 INCART(三类)上进行测试。实验覆盖多种客户端配置,针对非 IID、标签不平衡和小样本场景。评估指标包括聚合性能与少数类性能,同时比较参数量与通信成本。
启示:轻量化架构可缓解联邦学习中客户端资源受限与通信瓶颈。
关键发现
- HQKAN 在大多数聚合及少数类指标上优于 MLP。
- 参数减少:MIT-BIH 上 37.35%,INCART 上 44.81%。
- 通信成本降低:MIT-BIH 上 24.89%,INCART 上 36.41%。
| 数据集 | 参数减少 | 通信成本降低 |
|---|---|---|
| MIT-BIH | 37.35% | 24.89% |
| INCART | 44.81% | 36.41% |
与基线对比解读
与 MLP 相比,HQKAN 通过可学习的 Kolmogorov-Arnold 激活函数和量子启发设计,在更少参数下获得更好鲁棒性,尤其体现在少数类指标上。参数减少直接降低联邦通信开销,适合部署在资源受限的客户端。但论文未提供绝对精度绝对值及统计显著性检验,实际效果需结合具体客户端数量与数据分布验证。
行业影响
落地场景
HQKAN 适用于对隐私敏感且通信受限的生物信号分析场景。典型包括:
- 可穿戴设备(如智能手表、心电贴)上的实时心律失常筛查,数据不出设备即可参与联邦训练,避免上传原始 ECG。
- 远程医疗平台连接多家诊所或医院,在 non-IID 数据分布下联合训练五类心律失常分类(MIT-BIH)或三类分类(INCART),无需集中存储患者数据。
- 企业健康管理:为员工提供个性化心脏健康监测,模型在边缘端持续学习,保护个人隐私。
商业价值
核心价值在降本与体验提升双线:
- 降本:HQKAN 比 MLP 减少 37.35% 可训练参数(MIT-BIH)和 44.81%(INCART),通信成本分别降低 24.89% 和 36.41%。在联邦学习场景下,这意味着更少的带宽消耗、更低的边缘设备算力要求,可直接转化为云服务成本下降和端侧续航提升。
- 体验提升:在类别不平衡和跨客户端分布漂移下,HQKAN 改善多数聚合指标和少数类指标,提升模型对罕见心律失常的检出率,减少漏报,增强医生和用户信任。
- 增收:更紧凑的模型可支撑更多设备同时接入联邦网络,扩大服务规模而不显著增加基础设施投入。
与现有产品/工作流的接口
HQKAN 可直接替换联邦学习分类器中的 MLP 层,无需改动 FedAvg 聚合逻辑或客户端训练流程。集成路径:
- 在联邦学习框架(如 Flower、FedML、TensorFlow Federated)中,将本地模型的分类头替换为 HQKAN 模块。
- 利用其量子启发的B样条激活和可学习激活函数,无需额外量子硬件,纯经典模拟即可运行。
- 部署到边缘设备(如 MCU、手机 NPU)时,参数量的减少可直接降低模型存储和推理延迟,适合资源受限环境。
- 与现有数据管道(如 ECG 预处理、去噪)兼容,只需调整输入维度和输出类别数。
原作者指出 HQKAN 是“compact, communication-efficient and robust alternative”,适合作为联邦 biosignal learning 的即插即用组件。
局限
- **对比基线较为单一**。论文仅将 HQKAN 与 MLP 进行对比,未纳入更先进的联邦学习模型(如联邦 CNN、Transformer 或个性化联邦方法),因此 HQKAN 的性能优势可能被高估。此外,摘要中所述“improves most aggregate and minority-class metrics”暗示部分指标并未提升甚至可能退化,但正文未详细讨论这些例外情况及成因,降低了结论的完整性。
- **量子启发的实际增益不明确**。HQKAN 的“hybrid quantum-inspired”设计缺乏理论分析和消融实验,无法区分性能提升是源于量子启发模块还是 KAN 架构本身。且该方法完全在经典硬件上模拟,未在真实量子处理器上验证,因此“量子优势”仅停留在概念层面,无法证明其相对于纯经典 KAN 的必要性,可能削弱方法的独创性论证。
- **实验场景与真实部署存在差距**。仅使用 MIT-BIH 和 INCART 两个公开 ECG 数据集,规模较小且客户端划分方式可能未覆盖真实世界中的极端非 IID、客户端掉线、数据异构等复杂情况。通信成本降低仅基于可训练参数量计算,未考虑实际传输中的模型量化、压缩、网络延迟等因素,因此 24.89% 和 36.41% 的降幅可能无法直接转化为实际系统收益。