跳到主要内容
检索

# billion-context上下文压缩插件

1 篇关联报道

订阅更新
  1. billion-context 把压缩做进模型调用链:100K 窗口也能承载数十亿 token 的长会话

    billion-context 是一个插在 AI 智能体与模型 API 之间的压缩代理,把已消耗的对话折叠成分层摘要,让单个会话在 100K 级上下文窗口里持续运行。它不靠硬截断,而由模型自己决定何时压缩、压缩哪一段,摘要按小段写入并可解压恢复,前缀缓存保持完整。在 1,500 项跨基准评测中,它于 ContextBench 上取得 0.3097 的 Utilized F1,相对全量上下文成本降低 58.3%,并在 1.48M token 的 MemoryAgentBench TTL 上全部存活,而全量上下文在该项 199 次全部失败。

已读完全部报道