动态文本图预测换个接口:DyGen把目标写成文本语义编号,冷启动源节点也能排序
核心概要
动态文本属性图上的链接预测长期依赖对候选目标逐个打分,源节点缺少交互历史时结构证据几乎为零。DyGen把节点文本经残差量化压成短语义编号(SID),用编码器—解码器Transformer在源SID、近期交互目标和相对时间间隔条件下自回归生成目标SID,并在推理时复用一次编码的查询上下文给候选排序。在九个数据集上整体表现具竞争力,Amazon Movies上Hits@1、Hits@5和MRR优于TPNet,但Hits@10与TPNet接近、Hits@20不及TPNet。
深度剖析
未来链接预测的预测对象从候选目标的独立得分换成目标文本语义编号的逐位生成,同一套生成器在源节点没有交互历史时也能给出查询表示。 此前的动态图方法多按判别式范式对采样或枚举的候选目标直接打分,结构证据不足时这类模型在冷源节点上表现受限。 在Wikirevision、IMDB和Weibo-Daily上,DyGFormer对无训练或验证交互的源节点,Hits@10只有有十次以上历史源节点的54%、17%和2%。
生成器在源SID之外还读取最近若干次交互的目标身份及其相对时间间隔,历史为空时输入退化为源SID本身,不引入合成邻居或插补交互。 历史信息不再只被压缩成历史长度或池化活跃度向量,而是保留交互目标的身份、顺序和相对时间。 在Amazon Movies上,把历史目标身份随机替换但保留数量、顺序、位置和时间戳后,Hits@10从0.1085降到0.0695,MRR从0.0635降到0.0387,配对自助法下显著。
推理时查询上下文只编码一次,各候选通过SID似然排序,再叠加重复、共现和流行度三项结构校准。 结构校准不改变生成器及其训练目标,三项权重在验证集上选取,全部置零即回到纯生成预测。 相对DyGFormer,DyGen在Wikirevision和Sephora上每轮训练时间分别减少约59%和51%,峰值显存减少约76%和75%,在给定候选数下每查询推理时间减少约80%。
启示与展望
评估覆盖九个数据集,主实验是在2000条查询对4999个均匀采样负样本的采样排序,而非全目录检索;Amazon Movies使用固定的2000条查询与5000个仅目标候选清单。新物品结果限于Amazon Movies上186个新物品在冷物品全集内的排序,混合冷热候选的清单下Hits@10为0。
混合目录校准被作者列为未解决的部署问题,Hits@10为0、MRR为0.00024的结果说明有丰富交互证据的目标与首次出现目标之间存在分数校准差距。有限后缀词表在极大碰撞桶下仍可能残留完整SID碰撞,Dianping、Sephora和Wikilife的完整SID区分度略低于100%。作者还指出缺少连续目标表示的检索对照,因此结果支持SID接口有用,而非证明离散化普遍优于连续表示。
