跳到主要内容
返回时间线

算法补救不再假设因果模型已知:向用户追问十次干预,线性场景下代价逼近真实模型

核心概要

当机器学习给出不利决定时,算法补救要告诉当事人改什么才有用,但现有因果补救方法默认已知支配个人特征的因果模型。一种人在回路框架改为向用户提出若干次软干预问题,用贝叶斯推断从带噪回答中估计该用户的结构因果模型,再据此求最省力的补救动作。在线性合成模型上,估计模型给出的补救在有效性和代价上接近真实模型,并优于仅靠先验的非因果基线;在非线性模型上有效性下降,代价仍低于基线。

AI-generated editorial illustration: Personalized Causal Recourse: A Human-In-The-Loop Approach

深度剖析

补救建议改为围绕每个用户自己的因果结构生成,而不是套用一份共享的、假定的全局因果模型。 此前的因果补救方法假定个人特征的真实因果模型,包括因果图和结构方程,已知或可由观测数据可靠近似,而现实中个体因果机制可能不同、观测数据可能缺失。 在三个三变量合成因果模型上,把估计模型求得的动作施加到真实模型上评估:线性模型下估计模型的补救有效性与代价都紧贴真实模型,而仅由先验约束得到的非因果基线始终更差。

用户被当作不完美的因果信息源,系统通过询问干预后的结果来逐步逼近其个人因果模型。 做法是每轮随机抽取一个软干预,即把某个变量加上一个偏移量,再请用户报告下游变量的取值,把这一问一答作为数据。 用马尔可夫链蒙特卡洛对结构系数做贝叶斯后验采样,每轮设定十次干预,用户回答以混合过程建模,允许一部分回答来自被扰动的错误因果参数;在合成数据上,线性模型下估计误差随干预次数增加而下降,大部分收益在前五到六次干预内取得。

估计模型即使不完美,也能把补救动作集中到与真实模型相近的变量上。 仅靠先验的基线给出的干预目标更分散、更次优。 在两个线性合成模型上,估计模型给出的干预目标分布比先验基线更接近真实模型,在低不确定性设置下尤其明显;非线性模型的干预模式因有效性结果不稳而未做分析。

启示与展望

演示范围限于三个三变量合成结构因果模型,用户回答由模拟生成而非真实用户提供,评估指标是把估计模型给出的动作施加到真实模型上得到的补救有效性与代价。作者把当前框架定位为这一受限模型类内的概念验证,并指出扩展到更高维或更复杂设定会很困难。

用户回答被建模为混合过程,允许一部分来自被扰动的错误因果参数,但作者说明这不能刻画真实用户的结构化偏差、锚定效应或内部自洽却系统性错误的因果信念。估计精度对用户错误率、容忍阈值和稳健性要求都敏感,提高稳健性会普遍降低有效性;即便使用真实模型,也并非所有被拒个体都能得到有效补救。