跳到主要内容
检索

# 侧信道采集框架

1 篇关联报道

订阅更新
  1. arXiv

    让工具自己报告进度:智能体工具调用已持有进度信息,服务系统应当读取它

    该工作提出让运行中的工具调用显式报告自身进度(剩余工作量或临近结束信号),通过对四个公开智能体语料库的普查、一个不改变智能体可见输出的采集框架、与四个已发表预测器的对比,以及在 vLLM 中通过少量提示接入的端到端评测,发现所报告进度在 KV 缓存决策点上比最佳已发表预测器准确数倍至一个数量级,并在环境变化时保持准确,使工具调用后的 p90 首 token 时间相对 LRU 降低 20.7%(仅 HBM)与 20.8%(HBM + DRAM),接近 oracle 水平。

已读完全部报道