跳到主要内容
返回时间线
arXiv来源发表:

选分区不再靠熵越小越好:DEFI把体积归一化算进来,243种条件下精确恢复97.2%

核心概要

在图上选分区时,只用熵最小化会偏向把图切碎,因为删边同时改变谱集中度和图体积归一化。DEFI把谱熵差、分区熵、信息瓶颈稳定性锚以及维度、失衡、碎片化惩罚合成一个准则,直接由亲和图的拉普拉斯谱计算,不需要求逆协方差。在243种条件的因子恢复基准上,DEFI的精确恢复率为97.2%,EGA-TMFG为75.0%,基于冯·诺依曼熵的TEFI为45.8%。

深度剖析

候选分区现在可以用一个统一的准则来打分,这个准则同时衡量谱集中度、表示复杂度和结构规整程度,而不必只依赖熵的下降。 此前的无正则熵准则在分区细化下单调改善,会偏向退化的单点簇或碎片簇;基于网络的熵准则依赖逆协方差估计,在因子共线或图不连通时难以使用。 在覆盖因子相关、载荷强度和测量类型的243种条件因子恢复基准上,DEFI的总体精确恢复率为97.2%,EGA-TMFG为75.0%,冯·诺依曼熵版TEFI为45.8%。

准则把删边引起的谱熵变化拆成两项,一项奖励谱集中,另一项随图体积缩小而反向变化,后者正是无正则切分偏向碎片的来源。 在Rényi阶为2时,谱熵差可以精确写成迹集中项与图体积归一化项之差,因此结构惩罚不是启发式补丁,而是针对这一失效模式的数学约束。 在受控的局部候选组中,即从相邻替代和因子拆分替代里区分真实模型,DEFI在99.2%的重复中选出了正确分区;对6至12个条目的完整分区格,最多枚举700,074种结构。

同一准则通过连续松弛和CMA-ES在混合、层次与子空间候选类上求解,把离散的簇数决策变成连续搜索。 簇数是离散变量,直接搜索会在整数边界处停滞;DEFI把簇数放松为实数坐标,在相邻整数之间做分段线性同伦,并对低于最小规模的碎片簇施加不可行惩罚。 在十个聚类基准上,DEFI引导的高斯混合平均ARI为0.929,高于HDBSCAN的0.809、Ward聚类的0.700和常规GMM准则的0.501至0.580;在26个高维数据集上,DEFI-DR在26个中的25个恢复了参考维度。

启示与展望

这套结果针对离线探索性分析,用于在严重共线、弱指标分离和非凸流形几何等不利结构条件下确定模型阶数或潜在维度;评估覆盖243种条件的因子恢复基准、最多700,074种结构的完整分区格、十个聚类基准和26个高维数据集。DEFI只在被评估的候选类内做选择,无法修复生成器本身的错误设定;在WingNut这类窄桥连接和非凸曲线上,椭圆高斯分量在缺少流形展开时难以贴合。

无监督稳定性锚由高斯抖动先验固定,对替代扰动方案的敏感性仍是开放问题;当可以直接获得监督标签或下游预测损失时,用监督目标做交叉验证优于优化无监督的信息瓶颈锚。理论上的选择一致性只在有限且间隔分离的候选类上成立,连续参数空间下的一致收敛尚未建立;若同一张图既用于选分区又用于估计其熵,选择效应会使固定分区的方差结论失效。