检索增强模型答得流畅却难溯源:先检索隐含问题,教科书依从率平均提高34%
检索增强生成(RAG)让大模型依据教科书作答,但生成的解释常混入检索文本之外的先验知识,难以逐句回溯来源。一项在90个Stack Overflow问题、三本编程教科书上的评测显示,普通RAG的中位来源依从率只有22%–40%,不检索的模型为0%。作者提出链式言外行为提示(CoI):先从教科书抽取隐含解释性问题,为每个提问检索少量相关问题及其证据,再生成解释;多数模型依从率显著提升,平均提高34%,但绝对水平仍属中等。
检索增强生成(RAG)让大模型依据教科书作答,但生成的解释常混入检索文本之外的先验知识,难以逐句回溯来源。一项在90个Stack Overflow问题、三本编程教科书上的评测显示,普通RAG的中位来源依从率只有22%–40%,不检索的模型为0%。作者提出链式言外行为提示(CoI):先从教科书抽取隐含解释性问题,为每个提问检索少量相关问题及其证据,再生成解释;多数模型依从率显著提升,平均提高34%,但绝对水平仍属中等。
已读完全部报道