Thinking Machines 的 Inkling 2 Small 上线 Workers AI:594B 总参数、18B 激活,上下文开到 1,048,576 token
核心概要
Thinking Machines Lab 的第二代 Inkling 模型 Inkling 2 Small 已作为 @cf/thinkingmachines/inkling-2-small 上线 Cloudflare Workers AI,成为 Workers AI 上首个来自美国实验室的前沿开放模型。它是一个多模态混合专家模型,总参数 594B、激活参数 18B,支持文本与图像输入、默认开启的推理、跨多轮对话的函数调用,以及 1,048,576 token 的上下文窗口。Thinking Machines 称,预训练与基础设施的改进让这一代训练速度远快于此前模型。
深度剖析
Workers AI 上多了一个可直接调用的前沿开放模型:Thinking Machines Lab 第二代 Inkling 模型 Inkling 2 Small,以 @cf/thinkingmachines/inkling-2-small 的名称提供。 此前 Workers AI 上没有来自美国实验室的前沿开放模型,Inkling 2 Small 是第一个。 发布说明把这一位置作为该模型上线的核心事实陈述,并同时给出它相对上一代 Inkling 的能力提升。
模型以混合专家结构运行:总参数 594B,但每次只激活 18B 参数,因此推理时动用的是其中一小部分。 混合专家指模型由多个专家子网络组成、按输入只走其中一部分,这一代同时接受文本和图像输入。 Thinking Machines 表示,预训练和基础设施的改进使这一代的训练速度远快于此前模型。
调用方可以按任务调节推理强度:默认以高力度开启推理,也可设为 max、medium、low、minimal,或设为 none 关闭。 推理默认开启,意味着不额外配置时模型就会先推理再作答。 上下文窗口为 1,048,576 token,并支持跨多轮对话调用工具与 API 的函数调用。
启示与展望
发布说明面向要在 Workers AI 上调用该模型的开发者,所述能力包括智能体编码、图像理解、函数调用和 1,048,576 token 上下文;使用需要 Workers Paid 套餐或预付 AI Gateway 额度。
发布说明没有给出任何基准分数或与上一代的具体对比数字,能力描述为定性表述;默认速率限制为每分钟 20 次请求,使用预付 AI Gateway 额度时为每分钟 50 次。
