Bloom只用30万细胞学脑细胞表征:跨RNA与染色质开放度,线性分类达91%–94%
艾伦脑科学研究所与AWS团队发布单细胞多模态模型Bloom,它把基因表达与染色质开放度统一编码为同一种细胞表征,训练细胞数比同类预训练模型少约100倍。在成年小鼠全脑数据上,基于Bloom表征的线性分类器对亚类判别的交叉验证调整平衡准确率为91%(多组学,315个亚类)、94%(scRNA-seq,310个亚类)和94%(snRNA-seq,297个亚类),且模型只见过小鼠多组学数据。
艾伦脑科学研究所与AWS团队发布单细胞多模态模型Bloom,它把基因表达与染色质开放度统一编码为同一种细胞表征,训练细胞数比同类预训练模型少约100倍。在成年小鼠全脑数据上,基于Bloom表征的线性分类器对亚类判别的交叉验证调整平衡准确率为91%(多组学,315个亚类)、94%(scRNA-seq,310个亚类)和94%(snRNA-seq,297个亚类),且模型只见过小鼠多组学数据。
首尔大学医院团队发布CARMEN,一个在十种心肺波形、约227万模态小时无标签数据上预训练的单编码器,可接受任意共录信号组合与10秒到5分钟输入。冻结编码器加线性层后,它在19项围术期与ICU任务中于15项有监督对照里12项显著优于端到端监督模型,并在14至17项上超过三个预训练基础模型,且无一项被反超。
AudioSphere 把自监督音频预训练从单声道扩展到多声道:以 Ambisonics 格式的四声道录音为输入,用掩码自编码器同时重建频谱与强度矢量,使冻结骨干在浅层探针下即可完成真实场景的声事件检测与定位。此前单声道模型对空间结构不可见,而空间模型依赖片段级监督。在 HEAR 上该模型聚合得分 83.2,并同时支持帧级定位。
雷达三维感知长期先把原始频谱压成稀疏点云或紧凑多普勒统计量,再交给监督学习。L-SPMAE 改用掩码自监督:把在局部破坏下仍可重建的部分视为信号,并用频谱泄漏模拟这种破坏,直接从未压缩的雷达频谱预训练。在 K-Radar 上,采用 RAD 表示的 L-SPMAE 微调后 mAP 达 55.9/50.1,高于表中点云自监督基线的最佳 50.8/45.0。
海洋地震勘探中,SRME(表面相关多次波消除)先预测多次波,再用匹配滤波把它从原始记录中减掉;传统做法要么用固定长度的平稳滤波,要么用带局部平滑约束的非平稳回归,在信号快速变化处受限。PDL把这一匹配滤波换成由自适应匹配滤波方程引导训练的自监督神经网络,用分块方式把地震剖面切成大量小块训练,从而学到全局最优的非平稳匹配。在合成数据和Viking Graben实际数据上,PDL相对经典非平稳最小二乘匹配滤波减少了多次波残留,并更好地保留了弱有效信号和波形连续性。
手术图像分析长期依赖自然图像预训练编码器,或在小规模标注数据上从零训练专用模型。InnerLogic-Surg 以 DINOv3 为起点,在来自11965段公开手术视频、约2900小时、覆盖15种以上术式的数百万帧上做持续自监督预训练,得到21M至300M参数的编码器家族。在冻结骨干、仅训练线性读出层的统一协议下,该家族在覆盖流程识别、器械与解剖识别、分割、检测和单目深度的20项任务上均取得最佳线性探针表现,其中 ViT-L 在18项领先,ViT-B 在 GraSP 步骤识别与单目深度上最佳。
超分辨成像流式细胞术(SR-IFC)把结构光照明显微镜搬进连续流动的微流道:每个细胞只取三帧相移图像,沿流动方向由物理调制提升分辨率,横向缺失的细节由仅用本样本数据训练的网络补出。在100纳米荧光珠上,SR-IFC沿流动与横向分别达到约118纳米和110纳米分辨率,而同一批珠子的宽场成像为222至227纳米;在2048×320像素读出下,理论吞吐上限约为每秒720个细胞。
Daedalus 把函数表示的学习从算子学习中拆出来:一个函数自编码器只在实时合成的解析函数上预训练,不接触求解器与标签,得到的潜空间被冻结后跨任务复用。在涵盖流体、固体力学、声学以及 Helmholtz 与 Poisson 方程的 28 个基准问题上,冻结表示上的算子在其中 23 个问题上相对误差低于端到端框架 GAOT,平均每个问题训练快 2.1 倍;这一比较不含一次性的骨干预训练成本。
细胞形态图谱过去依赖细胞分割和人工特征,标注稀缺又难跨实验室复用。研究者在JUMP–CP的119,876个无标注化合物、约177万张图像上预训练四类自监督模型,冻结权重后直接提取图像嵌入。在EU-OPENSCREEN Bioactives的2,464个化合物上,DINO与DINOv2在作用机制检索的位点平均mAP上比CellProfiler高31–37%,并全面优于掩码类模型。
海洋钻探岩芯不再需要地质学家写下的岩石名称来当训练目标。过去把船测岩性当作模型应当复现的正确答案,可每根岩芯上常规记录的六项测量——密度、磁化率、天然伽马辐射和三通道反射率——正是地质学家判名时所读的性质。一个不带标签、只在 LILY 数据库 296 个钻孔的 236,963 条观测上训练的掩码变分自编码器,对岩性的区分与用标签训练的版本相当(调整兰德指数 0.237 对 0.247),把标签权重提高到千倍只让重建从 0.999 掉到 0.836,分类几乎不变。