量子专家不再按索引切分脑区:按功能网络分组,最强功能连接保留率从43.9%升到62.4%
核心概要
量子混合专家模型处理高维时空数据时,此前多按索引把输入特征切成若干块,切断了特征之间原有的依赖关系。特征分区量子混合专家(Feature-Partitioned QMoE)改为按功能一致的脑网络把180个脑区分给四个量子专家,每个专家只处理一个神经科学定义的回路。在ABCD静息态fMRI的ADHD分类上,这种分组与任意切分取得可比的测试AUC,同时把前5%最强功能连接保留在专家内部的比例从43.9%提高到62.4%,并支持逐回路的归因分析。
深度剖析
量子混合专家模型现在可以按领域知识把高维输入切成功能一致的组,每组交给一个专用量子专家,而不是按索引顺序切块。 此前的多芯片量子集成方案用简单的索引切分划分特征,忽略特征之间固有的依赖关系,在时空信号这类结构化数据上造成信息损失。 在ABCD静息态fMRI的ADHD分类任务上,理论驱动分区与任意切分的两个QMoE架构相同、参数量同为34,885,测试AUC相当,跨随机种子的配对t检验未显示显著差异。
按Yeo-17功能网络把180个脑区分成默认模式、执行控制、突显和感觉运动四组,每组由一个量子专家处理,输出经门控网络加权后送入分类头。 每个量子专家是一个量子时间序列Transformer,先用时间平均池化压缩363个时间点,再经线性投影把特征映射为旋转角,送入10量子比特、含纠缠门的变分量子电路。 训练在ABCD研究的静息态fMRI数据上完成,使用HCP-MMP1图谱划分脑区,四个专家分别分到41、52、44和43个ROI,模型在PyTorch与PennyLane中实现并在A100 GPU上训练。
分区结构本身带来三层可解释性:门控权重给出每个样本的路由画像,逐专家梯度显著性给出各回路内部的脑区重要性,多层聚类给出数据驱动的亚型。 单体模型只能通过对输入梯度做事后分组来近似这些分析,没有物理上隔离的专家;分区架构按构造给出逐专家、无混杂的归因。 在执行控制专家中,ContC、DorsAttnB和ContA三个网络以及前部默认模式子网络DefaultA的关联通过FDR校正,ROI层面FST和POS2两个脑区也通过校正;对ADHD受试者的多层聚类得到三个亚型,最大一类占59.7%。
启示与展望
演示范围是ABCD研究的静息态fMRI数据上的ADHD二分类,180个脑区、363个时间点,分区依据是Yeo-17网络和既有ADHD文献定义的四条功能回路;作者提出未来在缺乏领域分组时研究数据驱动的专家分区。
门控权重在四个专家间接近均匀,ADHD与对照之间没有显著差异,作者将其归因于负载均衡正则,说明分类依赖专家专门化而非类别相关的路由;突显网络层面的关联只是名义显著,未通过FDR校正;跨层一致性中回路与网络层面的ARI仅为0.011。
