生成模型检验终会被大样本推翻:SIGMA把拟合误差当冗余参数,同一模型可多信一个数量级
用有限训练集拟合的生成模型永远不等于真实密度,因此任何足够灵敏的拟合优度检验都会在测试样本足够大时拒绝它,即使模型族本身完全正确。SIGMA把高斯混合模型的参数不确定度用得分函数与Fisher信息写成可处理的协方差,再把传统点零假设检验升级为把这些不确定度作为冗余参数一并剖面化的复合零假设检验。在二维玩具模型和QCD背景的喷注嵌入基准上,计入不确定度后同一模型可在比标准检验大一个数量级的测试集上保持可信。
用有限训练集拟合的生成模型永远不等于真实密度,因此任何足够灵敏的拟合优度检验都会在测试样本足够大时拒绝它,即使模型族本身完全正确。SIGMA把高斯混合模型的参数不确定度用得分函数与Fisher信息写成可处理的协方差,再把传统点零假设检验升级为把这些不确定度作为冗余参数一并剖面化的复合零假设检验。在二维玩具模型和QCD背景的喷注嵌入基准上,计入不确定度后同一模型可在比标准检验大一个数量级的测试集上保持可信。
脓毒症凝血筛查一直依赖入院时单次化验,血小板、INR与SOFA拼成一个横断面阈值。对MIMIC-IV中3138名脓毒症患者,按前72小时血小板、INR与PTT的联合轨迹做高斯混合聚类,得到死亡率为27.8%的高危亚型,而入院SIC评分只标出其中18.1%。这一梯度在eICU-CRD的12828例独立重拟合中重现,高危组仍有86.3%被SIC判为阴性。
一个四代谢物尿液与血浆面板在八种癌症中把病例与对照分开,且一个全程不使用结局标签的模型仍达到AUC 0.925,接近监督学习的0.991。
作者提出Local Support Learning(LSL),把灾难性遗忘视为每个权重矩阵输入空间的几何问题,用一个基于高斯混合模型的门控函数只在该阶段训练分布的支持域上启用权重适配器,从而在无法访问先前数据的情况下,对最多70亿参数的LLM进行多阶段微调,既充分学习新任务又保留预训练与先前微调能力。
已读完全部报道