FADO把表格解释从相关性改问干预:一次前向给出全部特征的干预效应
核心概要
表格数据的机器学习解释长期以预测归因为主,回答的是某个特征是否有助于预测结果,而这类归因捕捉的是相关而非因果。FADO 改用先验拟合网络,在由结构因果模型生成的合成表格上训练,把已知的干预效应作为监督标签,使模型在测试时只凭一张观测表格就一次前向输出全部特征的干预效应向量。在代理变量、混杂因子、对撞因子和安慰剂等标准预测归因会失效的设定下,FADO 给出与预测归因不同的特征重要性排序,并把非因果的预测性特征压到接近零。
深度剖析
表格数据的解释工具现在可以直接回答“干预某个特征会不会改变结果”,而不只是“这个特征是否有助于预测结果”。FADO 把每个特征的干预效应定义为一个标准化对比量,并把它作为因果特征重要性的排序依据,与 SHAP 等预测归因并列使用。 此前的解释文献主要做预测归因,例如 SHAP 和置换重要性,它们衡量特征对预测的贡献,本质上反映相关关系;要回答干预问题,通常需要额外的强因果假设或已知的因果图。 在五个手工构造的结构因果模型上,FADO 对目标后代和对撞因子这类“可预测但非因果”的特征给出接近零的效应,而预测归因基线给出非零效应;在留出的随机结构因果模型上,FADO 在除 LiNGAM 可识别条件成立之外的每一列比较中都优于其他方法。
做法是把“学习如何解释”变成一次摊销推断:训练一个 transformer,让它看一张表格就输出整条因果特征画像。 先验拟合网络此前已被用于因果效应估计,但那些方法需要指定单一的二值处理变量,并逐个特征重复调用;FADO 不指定处理变量,一次前向就给出所有特征的效应。 训练数据来自十一个结构因果模型先验族,线性族的标签用闭式解计算,其余族用干预后模型的蒙特卡洛采样估计;模型在最多 15 个特征的表格上训练,附录把训练扩展到 64 个特征,并配有可在浏览器中运行的交互演示。
启示与展望
演示范围限于表格数据:留出的随机结构因果模型、五个手工构造的图模式、ACIC-2016 真实协变量配模拟结果、Hillstrom 邮件营销随机试验加构造诱饵,以及 Causal Chambers 光隧道物理装置;主模型在最多 15 个特征的表格上训练,附录扩展到 64 个特征。
FADO 学的是训练先验下的贝叶斯后验均值,其与真实因果画像的吻合程度取决于该画像能否从观测表格中识别;在线性高斯和隐藏混杂的生成过程下,观测数据与多种因果结构相容,性能因此下降。作者报告它能可靠排序并区分因果与非因果特征,但不能准确给出效应大小的点估计;自助法置信区间未校准,不过与误差的相关性可用于筛除最不确定的特征。
