跳到主要内容
返回时间线
researchsquare.com来源发表:

服务器异常检测不再只看重建误差:CLGAT把跨层注意力结构并入判据,SMD上F1达95.31%

核心概要

服务器多变量监控的异常检测长期以重建误差为主要判据,而注意力层学到的长程时间关联变化很少进入最终分数。CLGAT把重叠分块嵌入、跨层动态上下文残差、双阶段门控注意力和窗口注意力结构组合成一个无监督重建框架,用结构分数与Mean–Top-K重建分数相乘得到异常能量。在SMD基准上,它取得94.59%精确率、96.04%召回率和95.31%F1,高于15个对比方法中表现最好的Anomaly Transformer的92.33%F1。

Source-provided article image: Structure-Aware Cross-Layer Gated Attention Transformer for Unsupervised Multivariate Server Time-Series Anomaly Detection
Fig. 1 · researchsquare.com · 第 7 页

深度剖析

服务器多变量时间序列的异常判定多了一条证据来源:除了重建值与观测值的数值偏差,选定长程注意力响应的相对变化也进入逐点异常能量。 此前的重建与预测类方法通常以数值残差作最终决策,注意力多作为内部表示机制,堆叠编码器中前层表示也主要沿相邻层路径传递。 在SMD基准上,完整模型取得94.59%精确率、96.04%召回率和95.31%F1,对比方法中表现最好的Anomaly Transformer为89.40%精确率、95.45%召回率和92.33%F1。

输入先被切成相互重叠的时间块,再经线性插值还原到原始时间分辨率,使每个表示既带邻域上下文又保留逐点定位所需的细粒度。 逐点嵌入只在单个时间戳上处理多变量观测,对分布在连续观测上的局部时间依赖刻画有限。 实验采用窗口长度100、38个监控变量、块长8、滑动步长1,编码器为3层、模型维度128、4个注意力头。

每个编码层通过跨层注意力从所有前层输出中取回上下文,并用逐时间步的门控决定注入多少;注意力权重和聚合后的特征响应则各受一次门控调制。 常规残差连接主要在相邻计算块之间传递信息,深层无法直接使用多个前层累积的表示。 消融中移除跨层动态上下文残差后F1从0.9531降到0.9147,移除双阶段门控注意力后降到0.9213。

窗口注意力结构把选定的双向长程注意力响应聚合成结构分数,经温度控制的定长分块Softmax归一化后与重建分数相乘,得到最终异常能量。 重建误差能衡量逐点数值偏离,却不直接刻画注意力所表示的时间依赖结构的变化。 消融中移除窗口注意力结构造成最大降幅,F1从0.9531降到0.8518;仅保留该组件的变体F1为0.9094。

启示与展望

演示范围是SMD服务器监控基准上的无监督逐点异常检测,评估采用点调整协议,阈值取验证集异常能量的99.5百分位;作者提出的后续方向是在更多数据集和有限监督设定上测试,并让结构约束与阈值校准适应变化的运行条件。

结构分数经分块Softmax归一化后主要在同一局部区间内可比,相邻分块边界可能出现基线差异,因此它被定位为局部相对结构偏离指标而非绝对强度;参数分析显示块长、滑动步长、损失权重、分块大小和温度系数都存在使性能回落的取值区间。