混合检索不必为每个查询权重重建索引:UniGraph 把多个权重的邻域并成一张图,混合权重下 QPS 高出最快基线 27.6%–52.3%
核心概要
稠密向量擅长语义、稀疏向量保留词面,混合检索按查询给定的权重把两者距离加权求和排序;此前要么分别查稠密与稀疏索引再合并重排,要么在固定权重下建一张图,权重一变邻域关系就变。UniGraph 在多个权重上采样邻居、按出现频率合并成一张出度有界的图,查询时按权重选择稀疏或稠密引导的入口,并用稠密优先的距离剪枝跳过部分稀疏距离计算。在 BEIR 的五个数据集上,混合权重设置下 Recall@100 时 QPS 比最快基线高 27.6%–52.3%,且无需重建索引。
深度剖析
混合稠密-稀疏检索现在可以用一张预先建好的图服务不同查询权重,而不必为每个权重重建索引。 此前的两条路线做法分别检索稠密索引和稀疏索引,再对候选并集按查询权重重排;固定权重的混合图则只在该权重下成立,查询权重偏离时搜索要探索更多顶点。 在 BEIR 的 NQ、HotpotQA、MS MARCO、FEVER、DBpedia-Entity 五个数据集上,查询权重逐条变化时,Recall@100 处 UniGraph 的 QPS 比最快基线高 27.6%–52.3%。
图的构建把多个权重下的邻居关系合并,保留在不同稠密-稀疏取舍下反复被选中的边。 单权重图只记录一个权重下的最近邻,权重改变时这些连接可能不再对应近邻。 构建时以固定步长在权重区间上采样,对每个中心取各权重下的前 k 个混合近邻,再按候选被选中的次数保留出度不超过上限的邻居;实验中发现该采样步长已足以覆盖邻域变化,更小的步长带来的提升很小。
查询时按权重选择入口,并先算稠密分量、用向量范数估计混合距离,从而跳过一部分精确稀疏距离计算。 遍历中每个候选都可能需要同时计算稠密与稀疏距离,而稀疏内积要匹配不规则存储的非零项,代价较高。 在混合权重设置下,开启该剪枝后各数据集 QPS 平均提升 10.3%,Recall@100 的最大下降仅 0.055 个百分点。
启示与展望
演示范围是 BEIR 的五个公开检索数据集,文档与查询由 BGE-M3 编码为 1024 维稠密向量和加权稀疏向量,稠密与稀疏底层索引分别用 HNSW 和 SINDI,搜索实验在单线程、全内存条件下进行。适合关注向量检索索引结构与混合检索系统的读者。
离散采样之所以有效,取决于混合邻域随权重变化的程度;作者用混合距离随权重线性变化、候选相对次序只在距离函数交叉处改变来解释这一点,并称所用采样步长已足够、更小步长提升很小。剪枝尺度取大于 1 时估计值不再保证是混合距离的下界,可能改变搜索路径并影响召回。
