arXiv来源发表:
决策树学会把难题交给黑箱:真实数据上三种训练法平均打平,合成数据才见延迟感知分裂的优势
核心概要
可部分解释模型让简单模型自己判断,把难样本交给高精度黑箱,从而在可解释性与准确率之间取舍。此前这类训练只覆盖线性模型和决策规则,决策树一直缺位。三种面向决策树的训练算法在多个真实数据集上平均差异落在误差范围内,作者用一条关于黑箱准确率域内均匀性的界解释这一现象;在故意让黑箱准确率不均匀的合成数据上,考虑延迟的CART变体才明显优于先建树再转换的做法。
深度剖析
决策树现在也能充当可部分解释模型的主体:树在叶子上决定自己预测还是把样本交给黑箱,延迟越多准确率越高,延迟越少可解释覆盖越大。 此前的可部分解释模型训练流程建立在线性模型或决策规则之上,决策树这一类还没有对应的训练方法。 在多个真实数据集上,三种树训练算法给出的准确率与覆盖权衡曲线彼此接近,平均差异落在误差范围内。
做法有三种:一种在现有Branches精确搜索上把叶子评分改为在自身错误与延迟代价之间取较小者;一种先跑标准CART,再决定哪些叶子延迟;一种把延迟选项写进CART的分裂准则。 第三种方法用PIM熵替代普通熵作为分裂准则,PIM熵是考虑黑箱后对叶子延迟代价的上界,可由混淆矩阵四个计数在常数时间内算出。 实验在来自已有基准的表格数据集上进行,连续特征按中位数二值化,每个方法在多个延迟惩罚取值下重训,并施加同一复杂度惩罚。
启示与展望
演示范围是二分类、轴对齐分裂的决策树,真实数据实验使用公开表格基准,概念瓶颈实验使用CUB-200鸟类数据;定理与PIM熵准则均针对二分类陈述。
当黑箱准确率在域内强烈不均匀时,那条界会变得空洞;精确搜索在最大的两个数据集上耗尽内存,未给出最优性保证;多分类扩展与从数据估计不均匀性仍是待做的工作。
