跳到主要内容
检索

# MAS基准

1 篇关联报道

订阅更新
  1. arXiv

    命令行智能体的风险藏在中间层:Agent MechSuits 用10维子空间把攻击成功率从85.99%压到13.36%

    命令行智能体在多轮执行中会逐步累积风险,单步动作看似无害,后续却可能拼成有害执行链,而外部护栏只能按预设规则在模型之外检查。Agent MechSuits 改为读取每一步的隐藏表示,用一个线性探针判断当前状态是否有害,命中后在同一层的一个10维子空间里加一个转向向量,不改模型权重。在 LLaMA-3.1-8B、Qwen-2.5-7B 和 Gemma-2-9B 三个白盒智能体上,当前步风险检测平均准确率为97.32%,三模型平均攻击成功率从85.99%降到13.36%,代价是生成崩溃率上升。

已读完全部报道