跳到主要内容
返回时间线

节点嵌入不再只解释单个维度:TACENR把邻近、结构与属性一起算进解释,监督变体在AOPC上不输专用方法

核心概要

图表示学习把节点压成向量后,向量各维不对应图中任何可读结构,而既有解释方法要么只服务某个下游任务,要么只解释单个表示维度。TACENR把待解释节点与最相似、最不相似节点组成对比集,用线性回归学习表示空间中的相似度,从而同时给出邻近特征、结构特征和节点属性的贡献。在BA-Shapes合成图上,它把房形模体节点与非模体节点区分开;监督变体在AOPC和噪声特征筛除上与GraphLIME、GNNExplainer、GraphSVX、COMPINEX相当。

AI-generated editorial illustration: TACENR: Task-Agnostic Contrastive Explanations for Node Representations

深度剖析

节点表示的解释对象从单个维度扩展到整条表示向量,邻近、结构与属性三类特征被放进同一个可读模型里比较贡献。 此前的表示解释工作只针对单个表示维度,例如把某一维与度、聚类系数等结构特征比对,或找出该维重建所依赖的子图,因而只覆盖邻近或结构中的一类关系。 在带真实结构角色的BA-Shapes合成图上,三类房形模体节点的解释彼此高度相似,却与BA-BASE节点完全不同:模体节点由度、节点三角形和邻居平均聚类系数主导,BA-BASE节点几乎只由个性化PageRank标准差主导。

解释通过对比学习得到:为每个节点挑出表示最相似的若干节点和最不相似的若干节点,训练一个线性模型去预测表示空间中的余弦相似度。 输入该模型的是拼接后的特征向量,包含节点属性、邻近特征(最短路距离或个性化PageRank等)和结构特征(度、邻居平均度、聚类系数等),模型系数即各特征的贡献。 实验覆盖Cora、CiteSeer、PubMed、PPI和BA-Shapes五个图,解释对象包括node2vec、role2vec以及GCN、GAT、GraphSAGE三种图神经网络编码器,表示维度均为64。

相似度计算可按表示类型加权:监督表示用梯度给与预测类别相关的维度更高权重,无监督表示用各维全局方差加权。 无监督场景没有下游任务指示哪些维度有信息,加权因此改为依据维度在全体节点上的方差。 在Cora上,梯度加权在监督设置下对MSE和MAE都有统计显著改善;无监督设置下全局方差加权使GCN的MSE改善9.59%(p < 10^-4),全局—局部方差加权使GCN和GAT分别改善7.74%和6.81%。

启示与展望

演示范围是Cora、CiteSeer、PubMed、PPI和BA-Shapes五个图上的node2vec、role2vec及GCN、GAT、GraphSAGE表示,监督与无监督两种设置均有覆盖;与任务特定方法的比较只使用属性级重要度,因为现有方法不解释整条表示。

加权相似度作为回归目标反而降低代理模型表现,因此加权只用于挑选对比集;在BA-Shapes上加权没有带来改善,因为该图的结构模式本身容易学习;PPI上多数方法都难以与随机排序明显区分。