不用先做spike sorting:C3PO直接从原始脉冲事件学出可解释的群体状态,跨毫秒到小时
C3PO把神经脉冲当作带波形标记的点过程直接建模,跳过spike sorting与分箱,用对比预测从事件历史推断低维“上下文”状态。在合成数据上,它学出的上下文按潜在相位排成环状结构,并能还原48个相位调谐神经元的调谐曲线;在多个已发表记录上,它复现了位置、头朝向、theta相位等已知变量,并给出单神经元与群体特征之间的直接映射。
C3PO把神经脉冲当作带波形标记的点过程直接建模,跳过spike sorting与分箱,用对比预测从事件历史推断低维“上下文”状态。在合成数据上,它学出的上下文按潜在相位排成环状结构,并能还原48个相位调谐神经元的调谐曲线;在多个已发表记录上,它复现了位置、头朝向、theta相位等已知变量,并给出单神经元与群体特征之间的直接映射。
衍射光学神经网络通常先把每个类别指定到固定探测区域,再让光场去复现这一预设输出。新加坡科技设计大学与新加坡国立大学团队改用文字系统级别的粗粒度标签,以改进的对比目标只约束样本间关系,让手写梵文、阿拉伯文和英文的光学表示自行聚成三类。三层结构在共享训练终点上平均测试准确率为93.4%,对照的监督式光学网络为84.7%,且达到84.5%稳定准确率所需训练步数约为后者的18%。
空间转录组模型通常只在细胞或斑点之间交换表示,基因信息随表达谱附带进入。SpaAxFormer把每个细胞–基因条目保留为独立状态,先在细胞内让基因互相参照,再按同一基因在空间邻居间交换信息,另设一个细胞级汇总表示。在六个DLPFC切片上,其基因表达插补的平均L1距离均低于Impeller,例如切片151510为0.239对0.254;在Stereo-seq与Slide-seq V2上,Impeller的平均L1与RMSE更低。
SAR与光学遥感影像常被当作互为冗余的两路观测,此前的跨模态自监督多在整幅图像层面做对齐,细粒度的互补结构没有被利用。CroCoMAE在ViT架构内同时做图像级对比学习与图块级掩码重建,并把每个图块嵌入切成跨传感器对齐的共享子空间和不受约束的非共享子空间。在EuroSAT-SAR场景分类与DFC2020语义分割两个基准上,它在多数配置中优于单模态自监督基线和重新训练的跨模态框架,语义分割上的提升最大。
BacLLM把UniProt注释经大模型编码成的语义表示,通过跨模态对比学习灌入ESM-2序列编码器,使推理时只读氨基酸序列。在六个耐药预测基准上,BacLLM(4B)在逻辑回归与RBF核支持向量机两种分类器下的平均F1均高于Ankh、ESM-2、ProteinBERT和ProTrek;在SHV-1 β-内酰胺酶P0AD64上,它从排名前65的位点中找回8个实验支持的减耐药位点中的6个,ESM-2一个也未找回。训练后文本分支被移除,因此这些收益来自序列输入,而非注释输入。
心电图基础模型通常只在同域判读任务上比较,跨医疗系统的长期预后迁移能力并不清楚。PACE-ECG把同一患者60天内相邻两次心电图作为对比学习的正样本,并叠加波形与报告来源的多任务监督,编码器仅221万参数。在MIMIC-IV与两个HEEDB外部队列上,冻结表示预测心梗后全因死亡与新发心衰,其AUROC均高于DeepECG-SSL,外部心衰提升最明显。
常规数据库搜索只能为约20%至31%的谱图给出高置信肽段归属,其余谱图长期被搁置。π-SPECFormer在2.91亿张串联质谱上分两阶段预训练,先自监督学习碎片模式,再用肽段—谱图匹配分组细化表征。该模型在从头测序、谱图聚类和修饰检测三类任务上均优于对应基线,并在103例肺腺癌样本中给出9个高置信突变肽,其中6个不在所查公共数据库中。
DNA-LLM2Vec把已预训练的因果DNA解码器分阶段改造成冻结的双向编码器:先打开双向上下文,再用掩码下一词预测修补由此产生的不匹配,最后加入编码链不变性与位置不变性的对比视图。在DNAGPT与HyenaDNA两个骨干、七个生物任务族上,收益并非一致,而是取决于任务结构与骨干;裁剪对比学习对增强子—启动子互作和Virus-COVID这类长上下文任务帮助最大,冻结Avg-EPI MCC分别达到27.5%和26.7%。
TRACE把纵向就诊记录映射为可解释的进展表型,让表型数量可以多于诊断类别。在ADNI队列的标签匹配设置下,它在当前、12个月和24个月三个预测时点上取得最高的纯度、NMI、ARI、轮廓系数以及准确率和宏F1;24个月时相对最强基线,纯度与轮廓系数分别高出3.1和5.8个百分点。放开表型数后,它从认知正常与轻度认知障碍主导的两组中分出一个新表型,其认知量表轨迹居中而海马体积轨迹与轻度认知障碍组重合。
医学CLIP此前主要对齐高层语义特征,对纹理、实体顺序和属性这类低层信息捕捉不足,在细粒度任务上受限。Deco-CLIP把图像与文本各拆成两条支路:一路用CT-CLIP预训练的ViT提取语义,一路用MAE预训练的ViT提取纹理,文本编码器后三层分叉并共享键值、使用不同查询,再配合阈值自适应样本挖掘与正则化注意力。在CT-RATE的零样本任务上,多异常检测准确率提升10.2%,报告到体数据检索召回率提升16.2%。