批量转录组不必为每个队列重训模型:PRTS 把已标注队列当上下文,平均排名相关领先 TabPFN v3.5
核心概要
PRTS 是一个 2.2 亿参数模型,把已标注队列与待测样本一起读入,一次前向传播即可给出二分类、多分类、连续或带删失的生存终点预测,无需按队列训练。它在 175 个留出任务和 44 个 TCGA 任务上取得最高平均排名相关,但领先幅度很小,且主要来自同一队列内的预测;跨队列或面对未见站点时,它与最强的表格基础模型 TabPFN v3.5 持平,运行速度则快一倍以上。
深度剖析
批量转录组上的临床终点预测不再需要为每个队列单独拟合模型:同一套权重把已标注队列当作上下文,直接为新样本输出预测分布。 此前的做法是每个队列、每个终点各训一个模型,用上千个基因和约百人的样本拟合,换到另一个队列、平台或实验室就常常失效;转录组基础模型虽学到基因表示,新终点仍要自己的标注样本。 在 175 个留出任务上平均排名相关为 0.376,比预先设定的最强对照 TabPFN v3.5 高 0.013(95% 置信区间 0.004 至 0.022);在 44 个 TCGA 任务上为 0.385,高出 0.019(95% 置信区间 0.011 至 0.028)。
模型之所以能读不同队列,是因为基因只以随机编码进入,模型从未见过基因名、研究编号或标签名。 随机编码让同一套权重可以接受微阵列或 RNA 测序测到的任意基因集合,沿基因的注意力经诱导令牌把计算代价压到随基因数线性增长。 预训练使用从 581,503 份公开 RNA-seq 图谱生成的 604 万个任务,分三轮逐步加宽,最后一轮覆盖一万以上特征;预测时平均四次前向传播,每次重新抽取基因编码。
领先并不均匀:同一队列内领先,跨队列和未见站点则与最强模型持平。 在 113 个同队列任务上比 TabPFN v3.5 高 0.018(95% 置信区间 0.005 至 0.029);跨队列无目标标签时为 0.341,差异 +0.008(95% 置信区间 −0.007 至 0.022)。 TCGA 中查询病人来自上下文未出现的站点时,对 TabPFN v3.5 的优势降到 +0.007(95% 置信区间 −0.007 至 0.021);PRTS 自身均值变化为 −0.023(95% 置信区间 −0.043 至 −0.008)。
启示与展望
已展示的范围是回顾性公共队列:174 个留出 RealBulk 队列上的 175 个任务,以及 13 个开发中未用过的 TCGA 项目上的 44 个任务,终点来自临床记录、生存和 DNA,没有一个由 RNA 派生。作者提出下一步做先验、基因编码和分布头的消融,扩充更大更多样的语料,加入其他分子层并开展前瞻性临床研究。
作者说明未做设计消融,因此无法把领先分配给先验、基因编码或分布头;当没有开发队列携带目标概念时,PRTS 与 TabPFN v3.5、GeneICL 持平。公开队列可能未声明地共享病人,链接审计把 34 个留出队列与开发队列连到一起,主要比较在 137 个不涉及它们的任务上仍成立。TCGA 随机折把新病人与已知站点混在一起,且没有方法获得队列或站点索引;作者也指出更新的表格基础模型很可能缩小剩余差距,且队列均为回顾性。
