跳到主要内容
返回时间线
Hugging Face - Blog来源发表:

AI2发布XYBench:8千余道真实问题考AI能否识破用户的错误前提

核心概要

AI2联合卡内基梅隆、英伟达与约翰斯·霍普金斯大学发布XYBench,用8,115道来自Stack Overflow、Stack Exchange、人工整理与WikiHow的真实问题,检验AI助手能否识别用户提问背后的错误前提。在Stack Overflow问题上,五个被测模型给出表层请求解决方案的比例为75–86%,而给出真实目标解决方案的比例只有59–71%;即便把用户真实意图直接告诉模型,识别错误前提的比例也未必上升。

Source-provided article image: XYBench: Helping with the problem behind the question
Hugging Face

深度剖析

XYBench把“用户问的做法”和“用户真正想达成的目标”分开标注,用来衡量AI助手是否会在回答里纠正错误前提。 此前的助手评测多针对表述清楚、方向正确的问题,而XYBench专门收集提问者已认定某种做法可行、真正问题却在别处的情形。 基准共8,115道题,来自Stack Overflow 1,557道、Stack Exchange 184道、人工整理102道、由WikiHow指南生成的6,272道。

每个回答按三个方面打分:是否给出表层请求与真实目标各自的解决方案、回答重点落在哪一边、以及是否把用户从错误做法引开。 这三项由Claude Sonnet 4.5作为自动评判逐条分类回答中的建议,并判断整段回答的重心。 两名人工评审独立评估了500条模型回答,与自动评判的一致率在是否出现解决方案上为97.5–100%,错误前提识别为84.6–93.3%,回答重心为74.2–79.8%。

在Stack Overflow问题上,模型更常回答用户字面问的做法,而不是其背后的目标。 表层请求的解决方案出现在75–86%的回答中,真实目标的解决方案只出现在59–71%的回答中。 同一批Stack Overflow问题上,模型仅在35–41%的回答里以真实目标为重点,在47–57%的回答里以表层请求为重点。

把用户真实意图直接写进题目后,模型给出目标解决方案的比例上升,但识别错误前提的比例反而下降。 在Stack Overflow上,Sonnet 4.6给出真实目标解决方案的比例从59%升到67%,识别错误前提的比例从47%降到34%。 在带人工参考答案的来源上,这一设置下每个模型在错误前提识别上仍落后于人类回答。

启示与展望

评测在单轮设置下进行,每题只取一条回答;题目以英文为主,且主要是烹饪、家居维修一类流程性问题。作者提出,后续可测试哪些训练方法能让模型依据推断出的意图行动,并把基准扩展到其他语言、文化和对话场景。

作者指出,提供真实意图有帮助,但并未稳定缩小与人类回答的差距,说明识别意图只是挑战的一部分,模型还需在意图与表层请求不一致时据此行动。基准目前只覆盖英文查询和以流程性问题为主的内容。