把工具从智能体手里拿走:意图契约让可信模型自己写调用,却挡不住选错对象
面向使用工具的LLM智能体,意图契约把工具从规划模型手中移走:规划模型每步只提交一份含目标、用户原话逐字引用和范围字段的契约,由代码校验、再由一个可信小模型对照用户原话并亲自写出工具调用。在AmPermBench三个任务族的96条提示上,契约执行下被改动的对象全部出现在产生该改动的契约目标中(56/56),而两个审查条件分别为2/16和4/54;但契约并未减少越权动作,与只看命令的盲审查同为10/96,且澄清环境术语后各条件改变状态时仍有40–49%的运行改错目标。