给一组人找共同的反事实解释:DiCE_GI 把覆盖与多样性写成约束,HELOC 上只改 4–7 个特征
核心概要
面向一组实例的反事实解释不再逐个生成再汇总。此前的方法多把单实例解释聚合为一条共享动作,且只处理二分类。DiCE_GI 把覆盖与多样性写成显式约束、用增广拉格朗日法求解,在合成与真实数据集上以 K=1 的共享干预取得高覆盖与低改动成本;实验均在二分类设定下完成。
深度剖析
反事实解释现在可以直接针对一组实例求解:用户指定要解释的实例集合、若干可接受的目标类别和干预条数 K,方法返回一组共享的改动方案,使组内多数实例被推向目标类别。 此前的组级解释方法主要面向二分类模型,把单实例解释聚合为一条共享动作,缺少对多目标类别情形的处理。 在三个合成数据集和 Adult Income、German Credit、Law School、HELOC 四个真实数据集上,DiCE_GI 与 GLANCE、EA、CF-Group、GLOBE-CE 在覆盖、接近度、稀疏性和唯一动作数上比较;所有报告结果均为二分类设定,因为现有组级基线只支持二分类。
方法把“改动尽量小”作为目标,把覆盖和多样性作为必须满足的约束,而不是把几项损失加权求和后手工调系数。 梯度类方法通常把接近度、稀疏性、多样性等合并成一个加权目标,实例一多各项互相牵制,需要人工调系数且缺乏明确保证。 覆盖约束用软有效性替代不可微的硬覆盖,只惩罚最难的 h=⌈α·|X_e|⌉ 个实例,实验中 α 取 1、0.8、0.6;多样性分两层,一层要求不同干预分别专攻不同目标类别,另一层在特征空间用行列式点过程拉开干预之间的距离,二分类时后者权重 β 取 0。
启示与展望
报告的结果全部来自二分类设定,因为现有的组级反事实基线只针对二分类分类器设计;实验使用 K=1 的单一共享干预,被解释模型为逻辑回归、XGBoost 和单隐层神经网络。多目标类别的完整能力仍需在支持多目标类别的基准上验证,作者把扩展到 K>1 列为后续工作。
作者指出,可解释性、合理性等指标以及运行时间留待后续工作,尚未做用户主观实验;方法在更大规模数据上的可扩展性也尚未检验。多目标类别情形在现有基准上无法与基线对比,因此其优势尚未得到实证。
