命令行智能体的风险藏在中间层:Agent MechSuits 用10维子空间把攻击成功率从85.99%压到13.36%
命令行智能体在多轮执行中会逐步累积风险,单步动作看似无害,后续却可能拼成有害执行链,而外部护栏只能按预设规则在模型之外检查。Agent MechSuits 改为读取每一步的隐藏表示,用一个线性探针判断当前状态是否有害,命中后在同一层的一个10维子空间里加一个转向向量,不改模型权重。在 LLaMA-3.1-8B、Qwen-2.5-7B 和 Gemma-2-9B 三个白盒智能体上,当前步风险检测平均准确率为97.32%,三模型平均攻击成功率从85.99%降到13.36%,代价是生成崩溃率上升。