冻结的脑电基础模型不必全量微调:只取第一层一个注意力头的连接矩阵,跨被试情绪识别平衡准确率42.13
脑电基础模型REVE不再需要全量微调或整层池化特征才能做情绪识别。此前这类模型在跨被试任务上尚未稳定超过专用架构,且表征计算与存储代价高。该做法把第一层单个注意力头的注意力权重按试次聚合成通道间加权连接矩阵,再用无标签的对称性打分挑出信息量最大的头,在SEED-IV上以经典分类器取得42.13的平衡准确率,计算量比全层注意力池化少约176倍。
脑电基础模型REVE不再需要全量微调或整层池化特征才能做情绪识别。此前这类模型在跨被试任务上尚未稳定超过专用架构,且表征计算与存储代价高。该做法把第一层单个注意力头的注意力权重按试次聚合成通道间加权连接矩阵,再用无标签的对称性打分挑出信息量最大的头,在SEED-IV上以经典分类器取得42.13的平衡准确率,计算量比全层注意力池化少约176倍。
RepProbe把重复次数做成可控变量后发现,通用视频语言模型在高次数上计数崩溃,但同一最后一层状态里次数仍可线性解码,说明失败出在输出环节而非表征。
一个开源基准把五个公开的PPG基础模型放到九套数据集、26项任务和四种下游适配方式下统一评测,结果在68个任务-适配组合中有35.3%没有明显超过随机或常数基线,83.8%没有同时超过经典脉搏率变异性特征和通用时间序列基础模型。
在17个公开脑MRI数据集和8种冻结表示上,序列在每个数据集内部都能被识别,但换到没见过的数据集就大幅掉点,原因是各数据集把序列差异编码在不同方向上,而不是记住了数据来源。
作者在隐马尔可夫世界中让预训练模型恢复贝叶斯信念状态,用只读任务变量的奖励定义精确的奖励零核,并分别测量奖励零信息是否仍可线性解码、决策是否仍因果依赖它、以及它占多少激活方差;结果显示后训练大多把这类信息重路由或重标度而仍可解码,KL锚定使决策继续使用它,无锚定则决策停止使用,只有长时间权重衰减才把奖励与下一词预测都看不见的分量真正抹除,开放语言模型在上下文信念几何上呈现同样的解离。
作者提出FairRSFM,把四个遥感下游数据集(m-EuroSAT、m-BigEarthNet、m-SA-Crop-Type、MMEarth20K)的地理坐标样本映射到14类陆地生物群系并归并为六个宏观组,在冻结骨干的统一协议下用三个随机种子评测Prithvi-EO-2.0、SatMAE与DOFA,结果显示总体指标一致地掩盖了生物群系相关的性能差异,例如Prithvi-EO-2.0在m-EuroSAT上总体macro-F1较高而最差组分数明显更低,并比较了BOLP、DBR与GroupDRO三种缓解基线,其效果随模型与任务而异。
该工作识别并形式化定义了“幻觉逃逸”:现有工具幻觉缓解方法在其调优的工具配置上降低幻觉,却在其他配置上增加幻觉;作者发现模型存在内在工具使用倾向,与运行时配置冲突时幻觉急剧上升,而现有方法反而强化这些倾向;据此提出免训练推理时方法 EscapeGuard,通过冲突感知门控与配置导出的注意力增强,在六个基准与多种模型上将工具选择幻觉降低 9.0 个百分点,跨配置均值下降 23.7 个百分点,配对查询净提升 89.1%。
Ogata与Nakashima研究当多模态语言模型不依赖专用感知编码器、而是直接把轻投影的图像块、音频帧或离散视觉token交给共享Transformer时,编码发生在何处,并通过线性探测、与感知编码器的相似性比较以及因果分析,发现Transformer会在自身早到中层内部化这一缺失的计算,构建出任务可用的感知表示,作者称之为“虚拟编码器”。
研究者构建了 Tri-PvP——一个 8000 样本、覆盖动物、情绪、环境、音乐四个日常领域的三模态冲突基准,让图像与音频各自以感知形式(真实照片/录音)或命题形式(文字卡片图/TTS 语音)出现、文本始终为命题形式,在四个证据类型条件下评测五个全模态大模型,发现图像偏向在 20 个(模型×条件)组合中的 18 个里占主导,且存在系统性不对称:模型在视觉上更偏向感知证据、在音频上更偏向命题证据,这种偏向在早期隐藏层即可被线性解码,用对比解码只能部分缓解并带来残余文本偏向。
该研究以脉络膜分割为原型任务,在80名受试者的6,076张OCT B扫描上系统比较标量无参考图像质量指标(BRISQUE、NIQE、PIQE、SNR、PSNR)、通用ImageNet预训练表征与视网膜基础模型作为任务特异性质量门控信号,发现标量指标与分割Dice相关性极弱(|r|<0.20),通用预训练表征线性探针ROC-AUC最高约0.77,而OCT特异性基础模型RETFound达到约0.81,且仅视网膜基础模型的嵌入空间在无监督K-Means下产生超过患者级置换零分布的按质量对齐聚类。
已读完全部报道