1,813 对英美变体贯穿审计:六套预训练语料、21 个后训练数据集与十个检查点都偏向美式英语
该研究构建了 1,813 对匹配的美式英语—英式英语变体资源并提出免训练的 DiAlign 区域对齐估计方法,据此审计六个预训练语料、21 个后训练数据集、九个分词器与十个模型检查点以及两种提示条件下的生成结果,发现美式英语在数据暴露、表示与生成三个阶段均被系统性偏向,且英式英语提示只能部分改变这一默认。
该研究构建了 1,813 对匹配的美式英语—英式英语变体资源并提出免训练的 DiAlign 区域对齐估计方法,据此审计六个预训练语料、21 个后训练数据集、九个分词器与十个模型检查点以及两种提示条件下的生成结果,发现美式英语在数据暴露、表示与生成三个阶段均被系统性偏向,且英式英语提示只能部分改变这一默认。
已读完全部报道