小模型智能体不再自己写安全策略:CapLite改用工具模式与请求原文,13,935次注入攻击无一得手
核心概要
面向小型开源模型智能体的提示注入防御CapLite不再让模型编写安全产物,而是从工具模式推导策略、在读取任何工具结果前锁定写调用,并要求每个决定收件人、金额或目标的参数都出自用户请求。在AgentDojo的15个开源权重模型上,13,935个受攻击回合中没有一次攻击成功,受攻击下的任务效用为29.0%,与CaMeL的27.2%相当,而每回合消耗17.1k token,仅为CaMeL的18%。
深度剖析
小型开源模型智能体无法可靠地编写自己的执行层安全产物,因此CapLite把授权决定从模型手里拿走,交给由工具模式推导出的固定规则和确定性代码。 此前的执行型防御把安全交给智能体自己的模型写出的程序、权限策略、依赖图或约束清单,而这些防御主要用大型托管模型设计和评估。 在15个开源权重模型上,模型自己写出的策略在14个模型上放行了攻击(Progent),依赖图在13个上被突破(IPIGuard),约束清单在11个上被突破(DRIFT);CaMeL的程序在最多68%的回合里无法运行,在Granite-4.2-8B上达到68%。
CapLite的写完整性由构造保证:注入文本既不能新增写调用,也不能把收件人、账户、金额、渠道、对象或目标改到用户没有说过的值。 此前的计划后执行模式虽然固定了控制流,但注入仍可能决定已计划调用的参数。 在AgentDojo四个套件、15个模型上,13,935个受攻击回合中攻击成功数为0;当注入直接点名要调用的工具时为0/7,432,当注入要求读取攻击者URL时为0/168,当植入记录携带用户自己的描述词时为0/104。
CapLite在保持零攻击成功的同时,把每回合开销压到低于所有其他执行型防御,也低于无防御智能体。 CaMeL在13,935个回合中只有20次攻击成功,但每回合消耗93.7k token,而无防御智能体为28.0k。 CapLite每回合17.1k token,受攻击效用29.0%对CaMeL的27.2%,每千token效用为1.69,高于DRIFT的1.24、Progent的0.64、IPIGuard的0.59和CaMeL的0.29,并在15个模型中的12个上取得执行型防御里的最高值。
启示与展望
结果全部来自AgentDojo的四个套件(Workspace、Slack、Banking、Travel),共97个用户任务和949个用户任务与注入任务的配对,评测对象是15个开源权重模型,其中13个在1.7B到12B参数之间。防御假定用户、发起回合的请求、工具及其文档可信,工具返回的数据不可信。
写完整性只覆盖写调用:注入文本仍可改变读取哪些内容、时间类参数和最终回答,自由文本参数的内容也不受约束。当某个授权值只出现在工具结果里时,CapLite会请求用户确认,而评测中这类请求一律按失败计。受攻击效用比无防御智能体低21个百分点,在Gemma-4-E4B和Gemma-4-12B上明显低于CaMeL。
