材料表征自己排出“该学谁”:不碰目标标签,就能挑出对新元素最有用的一批化合物
核心概要
当目标化合物含有训练集中从未出现的元素时,哪些其他元素的化合物能提供可迁移的监督信号此前并不清楚。预训练晶体图编码器给出的表征,可以在不使用目标性质标签的情况下,按各元素化合物提供的监督价值排序;在训练集大小固定时,剔除该编码器排名前六的元素化合物,使形成能与带隙误差分别上升100–110 meV atom-1和42–85 meV,而剔除排名较低的六个元素化合物则变化很小。该排序在多种性质、回归器和数据集上保持一致,说明表征本身在组织监督信号,且这种排序可在训练模型之前确定。
深度剖析
材料表征本身就能给训练池里的元素化合物排出一个“谁对新元素更有用”的顺序,而且这个顺序不需要目标性质标签,也不需要先训练好回归器。 此前判断哪些训练数据对新化学体系有用,依赖影响函数、数据估值或基于不确定性的采样,这些方法都需要目标性质标签,通常还要一个已训练好的模型;元素性质相似度和周期表位置则与所预测的性质无关。 在固定训练集大小的源排除实验中,从训练池中剔除预训练晶体图编码器排名前六的元素化合物后,形成能误差上升100–110 meV atom-1、带隙误差上升42–85 meV,而剔除排名11–16的六个元素化合物时,形成能变化小于5 meV atom-1、带隙变化小于2 meV。
排序来自表征空间里的几何关系:随着某元素在化合物中的原子分数升高,化合物在表征空间中沿一条近似直线的方向移动,两个元素的方向越接近,它们的化合物就越能互相提供监督。 工程化描述符按元素性质相似度排序,预训练晶体图编码器则按学习到的表征几何排序,两者给出的顺序只是中等程度一致。 方向对齐由五个原子分数区间的表征质心拟合直线后取方向向量的余弦相似度得到;用JARVIS、MP和OQMD三个数据集分别计算时,元素平均的Spearman秩相关系数为JARVIS–MP 0.92、JARVIS–OQMD 0.83、MP–OQMD 0.82。
按方向对齐剔除源子集造成的误差上升,大于按元素性质相似度或同周期族剔除造成的上升,说明编码器捕捉到的是元素在化合物中的行为,而不只是元素本身的相似。 元素性质相似度与方向对齐的排序只有中等程度一致,同族对照剔除的源子集数量还随被留出元素而变化。 在OQMD上,按方向对齐剔除前六源子集使三种回归器的形成能MAE上升约100–110 meV atom-1、带隙MAE上升约42–85 meV;按元素性质相似度剔除前六源子集同样使MAE上升,但幅度更小,同族对照的上升幅度也更小。
启示与展望
结论建立在留一元素外推协议上:含被留出元素的化合物全部排除在训练之外,作为目标集,其余不含该元素的化合物构成训练池;评估覆盖JARVIS、MP和OQMD三个第一性原理数据库中的形成能与带隙,并搭配随机森林、极端梯度提升和径向基核支持向量回归三种回归器。源排除实验固定训练集大小为10000个化合物,主文结果使用过滤后的测试集,即排除含排名前六源元素的化合物。
方向对齐虽然不需要目标性质标签,但会受到用作探针的化合物集合影响;三个数据集之间排序的Spearman相关系数在0.82到0.92之间,并非完全一致。剔除排名前六源子集带来的误差上升幅度以约值给出,且随数据集和回归器不同而变化。
