异常检测换用多样性视角:VAS在148个嵌入基准上无需调参即居首
核心概要
Vendi异常分数(VAS)把异常重新定义为“移除该样本后数据集多样性下降多少”,用Vendi分数的特征值谱变化打分,不再依赖密度估计或空间划分。在ADBENCH的148个图像与文本嵌入基准上,VAS的平均排名优于包括ADERH、DN2、SLAD在内的对比方法,且无需验证集调参;在ImageNet受控污染实验中,随着污染率和数据规模上升仍保持最强表现。
深度剖析
异常检测多了一条不靠密度、不靠划分的判据:一个样本是否异常,取决于把它从数据集中拿掉后整体多样性掉多少。 此前的无监督方法分别依赖隔离难度、固定邻域尺度的局部密度,或拟合分布的距离,因而对邻域大小、划分选择和分布假设敏感。 在ADBENCH的148个嵌入基准实例上,VAS的AUROC平均排名为2.35,对比方法中最好的GMD为3.80、DN2为4.05,Wilcoxon符号秩检验给出显著差异。
打分只需一次全局特征分解,之后对全部样本做批量二次型计算,因此计算量随样本数线性增长。 直接对每个样本重算留一法Vendi分数需要N次特征分解,代价为三次方量级,无法用于大规模嵌入集。 用一阶近似替代逐样本重算后,在148个基准上近似与精确留一法排序的平均Spearman相关系数超过0.98,AUROC变化最多约1.16个百分点。
Vendi分数的阶数由数据的主特征值自动决定,集中型嵌入用小阶数、各向同性嵌入用大阶数,省去邻域选择与调参。 以往使用Vendi分数的工作通常固定一个阶数,或扫描多个阶数画多样性曲线,而无监督异常检测没有验证集可供调参。 在ImageNet上用DINOv3 ViT-B/16嵌入构造污染集,固定正常类改变异常比例、以及固定异常率扩大数据规模两种设置下,VAS均取得所评估方法中的最强表现。
启示与展望
演示范围是无监督设定下的嵌入数据集:ADBENCH的图像与文本嵌入,以及ImageNet上用DINOv3 ViT-B/16提取的嵌入;方法只使用嵌入与余弦相似度,不使用标签、干净参考集或模型置信度。
VAS依赖嵌入空间与所选相似函数的质量,若异常在嵌入或余弦相似度下与正常样本无法区分,则难以可靠检出;标量分数本身不说明异常来源;自适应选择阶数的规则是启发式的,未必对所有数据几何最优。
