搜索生成不再只把查询当输入:IntentGR在AOL4PS与阿里速卖通数据上把Recall@10分别提高8.11%和11.96%
核心概要
个性化搜索的端到端生成式检索此前多把查询当作一个输入特征,标识符学习和序列生成都缺少意图引导,生成的语义标识符容易偏向高频词模式。IntentGR把查询级行为证据加入输入,并在优化、训练分布和解码三处配套对齐与调制机制。在公开AOL4PS基准和阿里速卖通大规模电商数据集上,其Recall@10相对最强基线分别提升8.11%和11.96%,长尾查询上的增益尤为明显。
深度剖析
个性化搜索的端到端生成式检索开始把查询意图贯穿到检索流程的多个环节,而不只是把查询拼进编码器输入。 此前面向推荐的端到端方法主要围绕用户—物品交互建模,查询语义利用不足;面向搜索的方法虽把查询编码进标识符空间,却把查询仅当作对齐和平衡标识分配的输入信号,并完全忽略用户行为历史。 在AOL4PS上,仅把查询加入输入的对照基线ETEGRec-Q把Recall@10从ETEGRec的47.03%提到69.88%,而IntentGR在同一基准上达到77.99%,相对该最强基线提升8.11%。
做法是在输入、优化、训练分布和解码四个互补位置强化查询语义。 查询感知语义行为表示(QBR)把同一查询下其他用户此前的点击序列作为查询级行为证据,与用户历史一起放进编码器上下文;查询语义对齐(QSA)用查询表示与目标物品重建表示之间的双向对比目标,把查询—物品相关性引入分词器与检索器的联合优化;长尾查询增强(LQE)通过重复采样和查询改写提高低频查询的出现次数与语义多样性;查询条件注意力调制(QAM)把查询语义注入解码器所关注的上下文,使每个位置都携带查询信息。 在阿里速卖通一周点击日志构成的大规模电商数据集AE上,IntentGR的Recall@10为34.36%,对照基线ETEGRec-Q为22.40%,相对提升11.96%。
增益主要来自把查询级行为证据转化为可泛化的生成目标,而不是直接返回历史点击。 直接把查询历史点击序列作为非参数检索结果时,QBR单独使用在AOL4PS上Recall@10为69.36%,与生成式基线ETEGRec-Q的69.88%相当。 完整IntentGR在同一基准上达到77.99%,比QBR单独使用高8.63%;在目标物品确实出现在查询行为历史中的测试样本上,ETEGRec-Q的Recall@10为89.11%,IntentGR为99.72%。
启示与展望
演示范围限于个性化搜索:公开AOL4PS基准,以及取自阿里速卖通一周点击日志、用最后一天最后一小时评估的工业电商数据集AE;长尾查询增强只作用于训练数据,验证集和测试集保持不变。
在目标物品不出现在查询行为历史中的样本上,IntentGR相对ETEGRec-Q的增益较小,AOL4PS为2.44%、AE为1.22%,此时两个模型都只能依赖查询文本。查询语义对齐的对比系数与查询条件注意力调制的融合系数在AOL4PS上做了敏感性分析,边界取值下性能下降。
