跳到主要内容
检索

# Together Compiler(TKCC持续编译系统)

1 篇关联报道

订阅更新
  1. arXiv

    Together Compiler 把推理编译变成持续循环:前沿模型上吞吐最高提升 2.6 倍,24 小时内完成

    Together AI 推出 Together Compiler(TKCC),把 AI 推理引擎的优化从一次性编译改成由智能体持续迭代的循环。此前智能体要么在离线基准上优化单个内核、测量保真度低,要么每次测量都重启整个引擎、迭代极慢。TKCC 用分层常驻引擎把引擎启动与单次前向计算解耦,并配合并行配置代价模型,在 Llama 1B 上超过手写 Megakernel,在 Kimi K3、GLM 5.3、MiniMax M3.1 Flash、DeepSeek v4.1 Flash 上于 InferenceX 基准超过最佳开源引擎,每个模型 24 小时内、最多 2 个节点完成。

已读完全部报道