跳到主要内容
检索

# 多样性坍缩

2 篇关联报道

订阅更新
  1. arXiv

    少步扩散模型丢的不是方差而是方向:ReDiverse在单个中间块把多样性找回来

    把扩散模型蒸馏成四步学生后,同一提示下不同随机种子生成的图像和视频几乎一样。ReDiverse通过逐块比较师生激活发现,学生的总激活方差并未减少,只是被压缩到远少于教师的方向上,且集中发生在初始去噪步的一个中间块。据此,ReDiverse-FT在该块用LoRA把学生首步激活回归到教师激活,ReDiverse-TF则沿教师主方向扰动激活,两者在SDXL、SD3、Wan 2.1和MiniMax-H3四对师生模型上恢复多样性并基本保持生成质量。

  2. arXiv

    把生成模型建模为有向加权图后,跨模型合成数据流被证明会同时决定自消耗训练系统的收敛阈值与多样性收缩程度

    该工作把多个互相消费合成数据的生成模型建模为有向加权图上的节点,用重训练动力学的雅可比与比较矩阵推导出局部渐近稳定的充分条件,并给出固定点处系统多样性的上界,表明稳定性由局部放大因子与图传播共同决定,而合成数据消费会产生依赖拓扑的平滑效应、压缩模型间差异;在8模态高斯数据与CIFAR-10上,多种生成模型与多种交互拓扑的实验趋势与理论预测一致。

已读完全部报道