跳到主要内容
返回时间线
arXiv来源发表:

充分解释并非总能做到:十个分类数据集里九个存在共界,任何解释器都无法保证充分

核心概要

对图、字符串这类结构化输入,事后解释器常挑出输入的一部分作为“充分解释”,即仅凭这部分就能保证原预测。研究把解释器能选什么与分类器放在同一形式框架下,证明充分解释器存在当且仅当不存在“共界”——一个实例可从另一个标签不同的实例中选出。在语言、蛋白质、多肽和分子分类的十个数据集上,九个含共界;ENZYMES 只有 2.2% 的实例是共界,但消除它们需重标 82% 的实例。

Source-provided article image: On the Limits of Sufficient Explanations
arXiv

深度剖析

充分解释能否存在,取决于分类器与“选择关系”的配合,而不只是解释器本身的设计;选择关系指解释器允许从每个实例中挑出哪些子结构作为解释。 此前的形式化分析多集中在固定维度的特征空间和逻辑推理系统,没有回答图、字符串这类结构化数据上充分解释器是否存在。 一个实例若能从一个标签不同的实例中选出,就构成共界;只要存在共界,连把整个实例当作解释的平凡解释器也不充分,因此充分解释器存在当且仅当没有共界。

把充分性放宽为概率充分性和删除充分性后,限制依然存在,但形式不同。 概率充分性要求解释之外的扰动不改变预测,删除充分性只要求删掉解释之外的部分后预测不变,后者严格弱于充分性。 概率充分性可被一个与实例和任务相关的常数从上方压住,任何解释器都达不到 1;删除充分性总能实现,但在某些任务上删除充分的解释不提供关于分类器的信息。

仅凭数据集本身就能算出任务离充分解释有多远,不需要指定具体分类器或解释器。 以往评估的是某个解释器够不够充分,这里给出的是任务层面的参照。 在 AIDS、MCF-7、MUTAG、Mutagenicity、NCI1、ENZYMES、PROTEINS、ToxinPred2、ToxinPred3 和 SST-2 十个数据集上,九个含共界,七个在每个类别中都有共界;ENZYMES 的共界实例只占 2.2%,消除它们却要重标 82% 的实例,说明共界数量本身会低估其影响。

启示与展望

分析针对以子实例为解释的事后解释器,覆盖图上的子图、字符串上的子串等选择关系;统计在 AIDS、MCF-7、MUTAG、Mutagenicity、NCI1、ENZYMES、PROTEINS、ToxinPred2、ToxinPred3 和 SST-2 十个数据集上计算,其中 ToxinPred2 不含共界,AIDS 和 ENZYMES 只在部分类别中有共界。

这些限制是分布内现象,与扰动造成的分布外问题不同;删除充分性虽然总能达到,但在某些任务上可以是空洞的。该框架不覆盖相似实例解释器、原型和反事实解释,为其他类型解释器建立类似形式框架仍是未来工作。