跳到主要内容
检索

Xiaoyu Wu

1 篇关联报道

订阅更新
  1. arXiv

    像素空间扩散不再逐块平铺:HiT把相关特征并成组,ImageNet上600轮达到1.48 FID

    像素空间扩散模型直接在像素上训练,省去预训练视觉编码器,但生成质量和训练效率长期落后于两阶段潜空间模型。HiT在主干中逐级把相关图像块特征合并为组令牌,由更深的Transformer在压缩序列上处理,再用软权重还原到原位置,并用压缩预算控制批内平均压缩比。在ImageNet 256×256上,HiT-XL/16训练600轮达到1.48 FID,优于同参数规模的JiT-H/16的1.86;达到JiT相当质量约需其40%的累计训练FLOPs。

已读完全部报道