跳到主要内容
检索

# 选择性输入读取

1 篇关联报道

订阅更新
  1. arXiv

    长上下文并非必需:智能体频繁压缩工作记忆,长任务准确率基本持平而云端成本可省数倍

    前沿语言模型在长程与长输入任务上,把对话历史反复压缩成简短状态、或把长文档存成文件按需检索,任务准确率大体与保留完整历史持平,个别设置略有升降。云端按上下文长度计费,缩短上下文后估算成本可降到原来的数分之一。研究据此提出语义状态空间模型(SSSM)的设想:模型在轮次之间只维护一份自然语言写成的状态。

已读完全部报道