视觉语言模型的“意识”探针:MC-Lens 读出图像概念,还能改写多步推理答案
视觉语言模型能看图答题,但答案本身不说明概念在内部何处出现。MC-Lens 把视觉编码器与语言解码器的中间状态映射到解码器词表空间,用词表排名读出概念,并沿概念方向做反事实替换。在国旗—首都问答上,用贪心选出的概念方向集做一步推理干预,几乎每个答案都被改写;同一方向集在直接问答中也能改写答案,但一步推理中这些成分同时通过必要性与充分性检验的比例约为15%。
视觉语言模型能看图答题,但答案本身不说明概念在内部何处出现。MC-Lens 把视觉编码器与语言解码器的中间状态映射到解码器词表空间,用词表排名读出概念,并沿概念方向做反事实替换。在国旗—首都问答上,用贪心选出的概念方向集做一步推理干预,几乎每个答案都被改写;同一方向集在直接问答中也能改写答案,但一步推理中这些成分同时通过必要性与充分性检验的比例约为15%。
已读完全部报道