跳到主要内容
返回时间线
arXiv来源发表:

给AI智能体布下安全诱饵:五个模型确认的真实漏洞减少38.7%至60.4%

核心概要

自主漏洞发现中,AI智能体形成漏洞假设很便宜,验证却要花掉大部分预算。RedHerring在代码仓库里插入可证明安全的诱饵路径,把验证精力从真实漏洞上引开。在33个OSS-Fuzz项目、70个评测实例和五个模型上,匹配预算下确认的真实漏洞减少38.7%至60.4%;即使明确告知智能体可能存在诱饵,相对知情基线仍减少37.2%。

深度剖析

防御方可以在不知道真实漏洞位置的前提下,通过消耗AI智能体的验证预算来减少其发现的真实漏洞数量。 此前的补丁、混淆和欺骗式防御要么需要防御方预先定位受保护代码,要么在漏洞被发现后的利用或运行时阶段才介入。 在33个OSS-Fuzz项目、70个评测实例上,五个模型在匹配预算下确认的真实漏洞分别从149降到59、从90降到40、从98降到54、从84降到50、从124降到76,对应减少60.4%、55.6%、44.9%、40.5%和38.7%。

每条诱饵由一段源自真实CVE的漏洞链和一座假桥组成,漏洞链让智能体愿意验证,假桥让危险汇点不可达。 假桥是一个任何输入都不满足的谓词,例如基于二次剩余问题:防御方持有大素数p和q作为私有证书,公开N=pq和一个非剩余A,只有满足x²≡A (mod N)才通向汇点。 防御方用私有证书高效判定该谓词不可满足,而仅凭公开参数判定属于计算困难问题;每条诱饵还按目标仓库的类型、调用结构和命名习惯改写,使其读起来像普通输入处理。

诱饵消耗的验证精力与漏洞减少幅度同步变化,说明减少来自验证精力被引开。 在RedHerring运行中,智能体把30.6%至51.5%的完成token和估计32.5%至49.9%的运行时间花在验证诱饵上。 五个模型按诱饵精力占比排序与按减少幅度排序一致,二者的皮尔逊相关系数为0.99;消融中完整配置减少60.4%,去掉漏洞链为25.5%,换成简单恒假条件为32.9%,只放无害代码为14.1%。

启示与展望

评测限定在33个OSS-Fuzz项目的70个实例上,每个实例插入五条诱饵,智能体使用Claude Code脚手架,预算为3小时和300轮;五个模型均为前沿开源权重模型,Claude和GPT因安全对齐拒绝而未纳入。

每个配置只运行一次,稳健性来自跨模型和跨实例的广度;行为保持由原生测试套件、差分测试和定向模糊测试验证,尚无形式化等价证明;精力占比依赖标注模型给出的轮次标签,并与符号匹配合并使用;目标仓库公开,模型可能在训练中见过部分漏洞,这会同时作用于两个条件,使测得的减少幅度偏保守。