解释模型决策不再只列相关特征:因果图转成支持与反对的论证,给出为何如此预测
核心概要
可解释AI方法通常只指出哪些特征与预测相关,却说不清模型为何做出某个决定。这项研究把因果发现与论证推理接在一起:先用双编码的FCI算法从观测数据中找出特征间的因果结构,再把正负相关转成支持与攻击关系,用半稳定语义求出能自洽解释某一结果的特征集合。在Titanic与Pima糖尿病两个基准数据集上,得到的解释与SHAP、剪枝决策树看重的主要特征一致,但作者强调这些图只是与数据相容的候选因果假设。
深度剖析
解释机器学习模型时,除了列出相关特征,还可以给出一个内部自洽、能回应反例的论证,说明为什么是这个结果而不是另一个。 常见的后验解释方法依赖特征敏感性或归因分数,主要刻画相关关系,不区分特征之间谁支持结论、谁反对结论。 在Titanic与Pima糖尿病两个二分类基准数据集上,半稳定语义给出的特征集合与剪枝决策树的分裂特征、SHAP排序靠前的特征相吻合。
做法是先把每个特征离散成取值区间或类别,让"年龄小于5岁"这样的具体取值而不是整个变量成为论证中的一员。 因果结构用FCI算法估计,它允许存在未观测的混杂因素,输出的是部分祖先图,即部分边有方向、部分边方向未定的图。 两个数据集各跑两次编码(drop-first与drop-last),显著性水平取0.01、条件独立性用Fisher z检验,再按多数投票合并;Titanic合并后得到17个论证、15条支持关系与17条攻击关系,转成经典论证框架后为18个论证、57条攻击关系。
启示与展望
演示范围限于Titanic(891名乘客、7个特征)与Pima糖尿病(768名女性患者、8个特征)两个二分类表格数据集,解释对象是离散化后的特征取值;作者提出未来需要在更复杂、更高维的数据上评估,并引入保真度、反事实一致性与分布漂移下的稳健性等定量指标。
分析完全基于观测数据,没有做干预实验,也没有与已知真实因果结构对照;FCI输出的是马尔可夫等价类,有向边只表示该类成员共有的方向,无向边标记方向仍不确定。两个数据集样本量有限,条件独立性检验的统计功效受限,且可能存在未观测混杂,例如Titanic中未记录的社会经济因素、Pima中缺失的饮食与运动变量;有限样本下也可能出现忠实性违背。
