小簇不再一律清除:给 e-means 的复活规则加一道距离检验,孤立小簇的测试误差降一到八成
FAISS 中的 e-means 每五个小批次按簇大小清除小簇并复用其中心,但小簇可能只是覆盖了远离其他点的稀有群体,清除代价很高。新规则在大小检验之外增加一道距离检验:只有当小簇中心与最近另一中心的平方距离不超过当前均方误差估计的若干倍时才清除。在开发阶段未使用的含孤立小簇数据集上,两轮后的测试误差相对按数量复活降低约 10% 到 80%,而在 e-means 论文的嵌入基准上结果与库实现完全一致。
FAISS 中的 e-means 每五个小批次按簇大小清除小簇并复用其中心,但小簇可能只是覆盖了远离其他点的稀有群体,清除代价很高。新规则在大小检验之外增加一道距离检验:只有当小簇中心与最近另一中心的平方距离不超过当前均方误差估计的若干倍时才清除。在开发阶段未使用的含孤立小簇数据集上,两轮后的测试误差相对按数量复活降低约 10% 到 80%,而在 e-means 论文的嵌入基准上结果与库实现完全一致。
已读完全部报道