跳到主要内容
检索

# 上下文压缩

2 篇关联报道

订阅更新
  1. arXiv

    智能体输出能逐句溯源了:LMLineage 旁路标注来源,漂移文档只压缩不再被引用的部分

    LMLineage 把大模型智能体会话里的每一句输出,逐句对应到支撑它的输入片段,并给出校准后的置信度,全程不接触模型内部、也不额外增加推理。它作为旁路服务运行,靠窗口级嵌入相似度匹配,再据此判断哪些输入文档已经不再被引用,只对这部分做微压缩,用户指令原样保留。在 71 句中文金标注上,贪心窗口路径的平均细粒度准确率为 0.725,穷举逐句匹配为 0.497;另收集三种生成器上的 90 轮多轮会话,只用于延迟与可行性评估。

  2. arXiv

    长上下文并非必需:智能体频繁压缩工作记忆,长任务准确率基本持平而云端成本可省数倍

    前沿语言模型在长程与长输入任务上,把对话历史反复压缩成简短状态、或把长文档存成文件按需检索,任务准确率大体与保留完整历史持平,个别设置略有升降。云端按上下文长度计费,缩短上下文后估算成本可降到原来的数分之一。研究据此提出语义状态空间模型(SSSM)的设想:模型在轮次之间只维护一份自然语言写成的状态。

已读完全部报道