局部解释从数百条压到五条:ExplainReduce把代理模型拼成可读的全局解释
核心概要
后验局部解释数量庞大、彼此冗余,难以整体阅读。ExplainReduce把挑选代表性局部解释写成子集覆盖式的子模最大化问题,用贪心算法求解并给出最坏情况近似保证。在十二个合成与真实数据集上,少至五条局部解释构成的代理集在训练与测试保真度上可接近五百条解释的完整集合,且对回归与分类、多种局部解释方法通用。
深度剖析
大量局部解释可以被压缩成很小的代表性子集,而这个子集仍能像完整集合一样逼近闭箱模型的预测。 此前局部解释方法通常为每个数据点单独生成一条解释,成百上千条解释堆在一起,既难以整体分析,又因相邻区域可共用同一简单模型而高度冗余。 在十二个合成与真实数据集上,代理集大小取五条时,训练与测试保真度即可达到五百条局部解释完整集合的水平,这一现象在不同局部解释生成方法和数据集上一致。
压缩过程把“挑哪几条解释”变成一个带覆盖与保真权衡的集合选择问题,用贪心逐步加入边际收益最大的解释。 方法分三步:先用现成的局部解释方法生成大批解释,再把归约写成优化问题,最后用贪心算法求解。 覆盖最大化、损失最小化和两者加权平衡三种目标都化为单调子模函数最大化,贪心解至少有最优解约百分之六十三点二的近似保证;实验中贪心结果接近真实最优。
平衡覆盖与保真的 Balanced 版本在保真度、覆盖率和稳定性三项指标上表现最好或持平,且计算上快于已有的解释聚合方法。 已有的聚合方法各有适用范围限制:lime 的子模挑选只适用于特征归因类解释,GLocalX 只适用于分类的规则解释,基于整数规划的球覆盖方法也只适用于分类。 在数据集与局部解释方法的组合比较中,Balanced 版本在全部组合上都能使用,并在多数指标上取得最佳或与最佳相差一个标准差以内的表现,计算耗时在所有情况下最短。
启示与展望
演示范围是十二个合成与真实数据集上的回归与分类任务,局部解释来自梯度平滑、采样类和基于嵌入的线性代理以及规则解释;对新样本的映射采用特征空间欧氏距离的最近邻,作者建议实际使用时按数据或模型另选距离度量。
当前实现只从全局损失或覆盖角度挑选代理集,不考虑数据在空间上如何分布到各个代理;解释的多样性、对人类用户的可用性等指标未纳入评估,作者把与流形学习结合的可视化和多目标帕累托前沿列为后续方向。
