跳到主要内容
返回时间线
arXiv来源发表:

不训练也能查异常:PRISM用随机网络在47个表格数据集上拿到最高平均AUROC 86.4%

核心概要

异常检测长期被当作表示学习问题,性能提升多依赖训练特征或预训练骨干。PRISM把冻结的随机神经网络特征与以正常样本为参照的马氏距离打分结合,在ADBench的47个表格数据集上取得最高平均AUROC 86.4%和第二高平均AUPRC 65.9%,并在MVTec AD与VisA共27个视觉类别上把图像级与像素级平均AUROC做到90.4%和96.4%,全程不优化神经权重、不使用预训练表示。

Source-provided article image: How Far Can Untrained Neural Networks Go in Anomaly Detection? From Tables to Pixels
arXiv

深度剖析

异常检测可以在完全不学习表示的情况下做到有竞争力:PRISM把随机初始化后冻结的神经网络当作特征变换,再用正常样本估计的均值和协方差做马氏距离打分,表格与图像两种模态共用这一思路。 此前的无训练神经网络异常检测只在少量表格数据集上验证,视觉实验仅限展平后的MNIST与F-MNIST并只给图像级分数,能否覆盖多样表格数据和像素级定位并不清楚。 在ADBench的47个表格数据集上,PRISM-T的平均AUROC为86.4%、平均AUPRC为65.9%,在对比方法中分别排第一和第二;与DTE-NP、LUNAR、AnoDDAE、TCCM、K-DSM、DenoiserAD等领先基线在两个指标上均无显著差异。

同一套随机特征加马氏打分的做法从表格延伸到像素:PRISM-V在MVTec AD与VisA共27个视觉类别上同时给出图像级检测和逐位置定位。 此前的无训练视觉实验只做整图打分,没有在工业缺陷基准上做空间一致的像素级定位。 PRISM-V在MVTec AD与VisA上的图像级AUROC分别为92.9%和87.3%,像素级AUROC分别为96.2%和96.7%,AUPRO分别为85.9%和73.1%,网络仅0.33M参数;与预训练特征方法相比仍有差距,像素级AUROC的差距最小。

随机变换本身就能改变异常与正常样本的分数间隔,非线性激活进一步放大这一效应。 观测空间直接做马氏打分时,表格平均AUROC为82.4%、AUPRC为56.8%,视觉图像级AUROC为77.7%、AUPRO为62.4%。 去掉激活只保留随机线性变换后,表格AUROC升到83.2%、AUPRC升到59.3%;加入LeakyReLU后达到86.4%和65.9%,视觉图像级AUROC与AUPRO分别升到90.4%和80.2%。

启示与展望

评估覆盖ADBench的47个表格数据集,以及MVTec AD的15个类别和VisA的12个类别;表格实验采用半监督设置,只用正常样本建立参照,视觉实验沿用各自的官方单类协议。方法面向需要异常检测基线或想衡量学习表示增益的研究者与工程师,两种模态各用三个预选开发数据集选定一套全局配置后固定不变。

视觉上PRISM-V与预训练特征方法仍有差距,在Screw、Capsules、Macaroni2等类别上表现波动,低AUPRO类别的异常响应会扩散到正常区域。理论分析表明非线性变换对标准化分数间隔的整体提升难以一般性地保证,因此这部分结论依赖在两种模态上的经验观察。