跳到主要内容
检索

# ReDiverse多样性恢复方法

1 篇关联报道

订阅更新
  1. arXiv

    少步扩散模型丢的不是方差而是方向:ReDiverse在单个中间块把多样性找回来

    把扩散模型蒸馏成四步学生后,同一提示下不同随机种子生成的图像和视频几乎一样。ReDiverse通过逐块比较师生激活发现,学生的总激活方差并未减少,只是被压缩到远少于教师的方向上,且集中发生在初始去噪步的一个中间块。据此,ReDiverse-FT在该块用LoRA把学生首步激活回归到教师激活,ReDiverse-TF则沿教师主方向扰动激活,两者在SDXL、SD3、Wan 2.1和MiniMax-H3四对师生模型上恢复多样性并基本保持生成质量。

已读完全部报道