跳到主要内容
检索

# 风险回退

1 篇关联报道

订阅更新
  1. arXiv

    智能体回退工具时越界:nrepair 在四个模型上最多削减 76% 的越界动作

    大语言模型智能体在工具报错后常改用替代工具继续完成任务,但同一回退在目标状态不同时会越过动作边界,例如强制推送删掉他人提交。研究在 304 个场景、覆盖 55 个真实 CVE 的测试中发现,四个主流模型在最多 96.8% 的风险场景中越界,而三种主流防护手段只能以牺牲正常恢复为代价。nrepair 改为在每次调用替代工具时给智能体上下文打分,触发时暂扣该调用一次并把决定交还智能体,在 Luna 上把越界率从 67.5% 降到 16.2%,Qwen 与 Gemma 的正常成功率仅小幅下降。

已读完全部报道