跳到主要内容
返回时间线
researchsquare.com来源发表:

注意力模块没带来提升:九类胸片任务上,五个模块与同源ResNet-50打平

核心概要

在九类胸片疾病分类上,把SE、CBAM、BAM、GCN、GAT五种轻量注意力或图模块分别插入同一个ResNet-50主干,十个随机种子下没有一个模块超过未改动的基线。基线逐种子宏平均AUC为0.7990±0.0023,CBAM与GAT在多重比较校正后反而显著偏低,但效应量都落在预设的0.01 AUC等效界内。结论在训练集扩大2.4倍、换用ResNet-18、EfficientNet-B0、MobileNetV2以及改用患者级划分后仍成立。

AI-generated editorial illustration: No gain from attention or graph modules in matched ResNet-50, ResNet-18, EfficientNet-B0 and MobileNetV2 baselines for nine-class chest radiographs

深度剖析

在同一ResNet-50主干、同一数据划分、同一优化器与学习率计划下,只改变插入的模块,五种轻量注意力或图模块都没有提高九类胸片分类的宏平均AUC。 此前的通行做法是在ImageNet预训练的ResNet主干上插入通道注意力、空间通道注意力或图卷积层,并报告准确率提升;这些提升很少经过配对统计检验。 基线逐种子宏平均AUC为0.7990±0.0023,SE为0.7991、BAM为0.7999、GCN为0.7977、CBAM为0.7962、GAT为0.7936,六个模型的集成置信区间全部重叠;CBAM(−0.0028,p=0.0195)与GAT(−0.0053,p=0.0020)在Benjamini–Hochberg校正后显著偏低,但五个模块的配对差值95%置信区间都落在±0.01 AUC的等效界内。

模块插在哪里会改变结果:按原论文放进每个残差分支内部既不提升也不损害,而对每个块的完整输出做门控则明显变差。 主基准只在主干末端插入一次,因此需要单独检验原论文的逐块插入位置。 SE与CBAM插入每个可训练块的残差分支后分别为0.8003±0.0025和0.8006±0.0026,相对基线+0.0013和+0.0016,均低于各自比较的最小可检测效应;对每个块完整输出门控时降至0.7716±0.0082和0.7286±0.0184,相对基线−0.0274和−0.0703,十个种子全部为负(p=0.0020)。

没有提升这一结论不依赖训练集规模、主干选择或图像级划分带来的患者重叠。 主基准只用了9,532张训练图像和单一ResNet-50主干,因此需要排除小数据、特定主干与数据泄漏三种解释。 训练集扩至22,898张后基线升至0.8112±0.0019,仍无模块获益;在ResNet-18、EfficientNet-B0、MobileNetV2上重复的21个模块对基线比较中19个落在0.01等效界内、2个更差、无一更好;改用无患者重叠的划分后基线降至0.7893±0.0033,结论不变。

启示与展望

结论覆盖的是单一数据集NIH ChestX-ray14、224×224输入、冻结前两个残差阶段的部分微调场景,以及九类单标签胸片分类任务。训练集扩大、三种额外主干与患者级重新划分的检验都支持无提升这一结论,但非ResNet主干按比例冻结前半特征层级而非按参数量对齐,且EfficientNet-B0的MBConv块本身已含压缩激励,其基线并非无模块对照。逐块输出门控的惩罚幅度只在ResNet-50上明显,未推广到其他主干。

验证集同时用于早停和报告,六个模型都带有轻度乐观偏差,绝对宏平均AUC不宜当作留出集性能。主基准为图像级划分,1,009名患者的图像同时出现在训练与验证集中,占验证集1,350张图像的56.7%,这一重叠会削弱模型间差异,与等效结论方向一致。肺炎与心脏扩大两类样本量小,其类别估计跨种子不稳定。每个模块只按一种合理方式实现,未逐模块调学习率、图投影位置或图卷积层数。任务上限是否由ChestX-ray14的标签噪声而非模型容量决定,需要重新标注才能区分。