ADMET多任务分组不再靠试错:TAG-lite用共享编码器的梯度亲和度,在化合物几乎不重叠的端点间划出七组
核心概要
ADMET端点往往在不同化合物上测量,现有任务兼容性指标要求共享化合物,难以直接套用。TAG-lite改为在共享AttentiveFP编码器的参数空间里比较两个任务梯度的方向一致性,用一次多任务训练配置估计亲和度,在27个TDC端点上聚出七组。分组前测得的亲和度与组级迁移相关(r = 0.881,置换检验P = 0.006),但化合物重叠低于约5%时不再跟踪迁移幅度。
深度剖析
多任务ADMET建模现在可以按测得的梯度亲和度而不是按生物类别或理化相似性来分组,而且这种亲和度能在两个端点没有任何共同化合物时算出来。 此前的任务兼容性度量要么需要两个任务在同一批化合物上计算损失变化,要么按生物类别、理化相似性或成对共训练来分组,都没有直接测量模型如何在端点之间共享信息。 在27个Therapeutics Data Commons端点上,351个端点对共享化合物的中位Jaccard重叠只有0.99%,其中292对低于5%;由一次共享AttentiveFP编码器训练、三个随机种子平均得到的亲和度矩阵经Ward聚类给出七个组和一个单例。
亲和度在分组训练开始之前就已测得,因此可以在投入多任务训练之前判断哪些端点适合放在一起。 迁移的方向在联合模型训练完成之前是未知的,而训练冲突端点会通过梯度冲突带来负迁移。 组级平均亲和度与组级平均相对增益的Pearson相关系数为0.881(95%置信区间0.380–0.982,置换检验P = 0.006);任务级相关为r = 0.469(置换检验P = 0.016),以迁移方向为二分类结果时曲线下面积为0.745,但按整组重采样后该判别不再显著(P = 0.082),因此任务级结果被列为探索性。
按亲和度分组比不测量亲和度的分组方式更少拖累端点,差别主要来自分组本身而不是多任务训练。 抗亲和度分组、随机分组、按药代动力学类别分组和按任务类型分组在同一协议下都让多任务训练成为净负干预。 在26个端点上,TAG-lite加PCGrad的平均相对增益为−0.43%,抗亲和度为−13.10%,随机分组为−12.81%,按药代动力学类别为−11.54%,按任务类型为−10.78%;配对Wilcoxon检验中TAG-lite优于随机与抗亲和度(P = 0.005和0.011),也优于两种知识型分组(P = 0.009和0.010),但每种替代分组只实现了一次,没有分区间方差的估计。
梯度亲和度只在组这一层可靠地读出迁移大小,在化合物重叠很低时会失去幅度信息,却仍保留方向信息。 已有观点认为梯度对齐在样本重叠低于约30%时变得无信息,而ADMET面板的多数端点对远低于这一水平。 按组内平均Jaccard重叠以5%分层后,高重叠层(n = 15)的亲和度—增益相关为r = +0.700(P = 0.0037),低重叠层(n = 11)为r = −0.186(P = 0.583);同一分层下方向判别的曲线下面积分别为0.759和0.750。
启示与展望
结论建立在27个TDC ADMET端点、AttentiveFP编码器和TDC scaffold划分之上,亲和度阈值0.155与0.5%重叠阈值都是在同一批26个端点上选出的样本内工作点,尚未在留出端点或其它编码器上验证。
亲和度只取七个不同的组均值,任务级曲线下面积的置信区间下限接近随机水平;跨种子的成对亲和度排序可复现(Spearman ρ = 0.62–0.67),但k = 8时的离散分组并不稳定(平均调整Rand指数0.16)。HydFE的排除发生在观察到结果之后,0.5%重叠条件只由一个信息性案例支撑;丢弃梯度幅度的做法是否导致该失败仍未经检验。
