跳到主要内容
检索

Together

2 篇关联报道

订阅更新
  1. Ollama

    长任务智能体不再每步重读全部对话:Ollama与Together AI把前缀缓存拆成两端共同维护

    编码智能体每一步都要把整段会话重新送进模型,输入长、输出短,前缀缓存因此决定长会话是否越跑越慢。Ollama与Together AI分别从请求构造和推理引擎两端说明:缓存只匹配到第一个不同 token 为止,系统提示里一个逐轮变化的字段就会让整段会话重算。按理想化估算,每轮增量相同的十轮会话无缓存要处理 55 份提示、有缓存只需 10 份;缓存命中还取决于请求是否被路由回持有该缓存的节点。

  2. arXiv

    智能体能否自己造智能体:Singularity-Bench六项端到端任务上,Opus 5.5配Claude Code全部追平或超过人类基线

    Singularity-Bench把AI开发拆成预训练、中训练、后训练、推理、智能体外壳与集群编排六项端到端任务,每项只给最小起点、固定时限,并与同一硬件上的人类工程基线比较。11个由7个前沿模型与2种外壳组成的智能体中,Opus 5.5配Claude Code在六项上全部追平或超过基线,Singularity-Index为1.25,其余10个平均只有0.58。该指数按六项相对人类基线的比值取平均,失败任务计零,衡量的是跨层一致性而非单项最优。

已读完全部报道