长程智能体的审计改在状态转移处记账:240条注入轨迹上,根因定位从10.8%升到98.3%
核心概要
长程LLM智能体的安全与可靠性故障常发生在执行框架搬运状态的时候,而现有执行轨迹只记录提示词和工具调用,漏掉了跨边界的内容。一种状态转移审计架构在观察、上下文组装、压缩、记忆写入、整合、动作、回滚和委派八个边界各设一个审计点,发出哈希链式记录,把确定性检查与模型语义检查分开。在240条多步故障注入轨迹上,完整转移记录把违规检出率做到98.3%、误报率0.0%,并把精确根因步骤定位从10.8%–16.7%提升到98.3%。
深度剖析
审计对象从模型调用和工具调用挪到执行框架的状态转移上,观察、压缩、记忆写入、整合、回滚和委派各自成为一个可记录的边界。 此前的执行轨迹记录提示词和工具调用,不记录跨边界搬运了什么,因此多步轨迹上的故障归因和运行时监控会失效。 在Who&When多智能体失败日志基准上,三种初始方法中最好的一种只在14.2%的案例里找出应负责的步骤。
每个边界发出的记录把内部上下文、记忆和推理服务器缓存状态与外部动作绑定起来,同一批记录既用于事后归因,也用于运行时控制。 现有可观测性模式按智能体生命周期记录事件,不把每条记录与它检测到的故障绑定。 在240条多步轨迹上,其中120条为良性运行、120条为覆盖六类故障的注入运行,转移记录以微秒级确定性开销定位根因,并抓到生命周期日志和仅工具日志漏掉的跨转移违规。
实现方式是在执行框架里给每次转移套一层包装器,先写哈希链记录、跑边界检查,再应用状态变化,不需要改动模型。 确定性检查只增加日志和比较,模型检查器则要处理不可信上下文,两者成本与攻击面不同。 参考中间件在20,000次调用上测得每次转移的确定性包装延迟,记录平均524字节,与每千次转移约0.5MB的估算一致。
启示与展望
演示范围是受控故障注入轨迹上的参考中间件:240条多步轨迹,其中120条良性、120条注入,覆盖六类故障,另在20,000次调用上测确定性包装开销。源文把在生产基础设施和真实多模态网页、桌面界面上做更广的端到端评估列为下一步。
约束保留检查需要一次模型调用,其成本和在真实故障上的召回率尚未测量。网页与办公任务缺少用于记忆写入的测试判据。写入时的标签器本身可能被攻击,隐藏服务器KV状态的商业API使缓存回滚检查无法直接进行,审计记录含用户数据,需要明确的保留与访问策略。
