跳到主要内容
检索

# 污点追踪

1 篇关联报道

订阅更新
  1. arXiv

    把模型当作不可信组件:确定性监视器挡住注入攻击,但语义伪造仍留残余

    工具型AI智能体把读到的数据与指令混在同一通道,提示注入因此是结构性问题。一项研究在13个任务、12个工具的可执行环境中,用同一个效果判定器比较提示词护栏、模型外确定性监视器、人工审批与污点追踪,并在Qwen2.5-1.5B与Qwen2.5-7B上实测:任务绑定监视器只放行1.3%和7.7%的攻击,而模型在64%和84%的攻击回合里提出了攻击者的调用。残余风险集中在策略允许范围内的语义伪造,需靠污点触发的人工复核,而该部分结果仅来自模拟。

已读完全部报道