跳到主要内容
检索

# IDEA意图主导证据审计方法

1 篇关联报道

订阅更新
  1. arXiv

    下载来的GUI智能体可能带着后门:IDEA在每一步执行前审计,五类触发器下平均检出0.972

    公开模型库上的开源GUI智能体可能在发布前被植入后门,干净输入上通过验收,屏幕上出现视觉触发器时才改按攻击者的目标行动。IDEA把干净步骤中“指令决定动作、证据落在指令所指区域”这一关系当作基准,用改写指令和消融候选区域两种干预测量决策状态偏移,再按干净步骤在同一状态距离上的分布校准阈值。在Qwen2.5-VL-3B上针对五类触发器,目标误报率1%时IDEA平均检出0.972,最差一类为0.898,并为每次报警给出触发区域。

已读完全部报道