视觉语言模型投机解码提速:MMFlash按视觉依赖重加权,图像基准平均加速3.00–3.05倍
MMFlash把扩散式投机解码扩展到视觉语言模型,做法是先测量每个词元对图像的依赖程度,再在训练中给这类词元加权。测量显示,DFlash草稿器在视觉依赖最低四分位的接受率为46%,最高四分位降到22%,多模态训练后这一差距仍在。在Qwen3.5系列上,MMFlash在七个图像基准的贪心解码下平均加速3.00–3.05倍,比DFlash高10.3–10.9%;长视频基准配合稀疏注意力与轻量微调后平均加速2.33–2.71倍。