跳到主要内容
检索

# 反事实监督

1 篇关联报道

订阅更新
  1. arXiv

    冻结的V-JEPA其实读得懂速度:换成反事实监督,4B视频模型均分72.1反超同级开源模型

    视频语言模型通常靠字幕和问答对训练,模型学会的是检索文字提到的少数属性,而不是读视频里的变化。V-JEPA-LM 改用像素变换生成的反事实样本,让同一段视频的两种版本答案不同,迫使语言模型去读冻结编码器里已有的动态信息。单阶段、453万公开样本、每帧32个视觉token训练出的1B到8B模型,在十一个视频基准的均分上领先各尺寸同级开源模型,4B模型为72.1。

已读完全部报道