跳到主要内容
返回时间线
NaceAI来源发表:

决策模型Drex开放权重:单次前向给出选项概率,不再逐字生成答案

核心概要

Drex 是一组四个开放权重的决策模型,输入案件、问题和固定选项,一次前向传播就为每个选项返回概率,不生成文本。它面向工单分派、风险评分、文档核对这类选项已知的高频判断,官方技术报告称 Drex Max 在 Decision Bench v4 上典型请求耗时 183 毫秒,而 GPT-6 Sol 约 2 秒、Claude Opus 5.5 约 3.5 秒。同一份材料也说明,开放式写作、无法列举选项和依赖模型记忆知识的任务仍更适合大语言模型。

Source-provided article image: what is a decision model
NaceAI

深度剖析

生产环境里大量 AI 调用其实是做选择而不是写文字,例如工单进哪个队列、交易是否像欺诈、智能体下一步点哪个按钮;Drex 把这类调用单独做成一种模型,只读案件和给定选项,返回每个选项的概率。 常见做法是让大语言模型先思考再写出一段文本,再从文本里解析答案,因此要等输出逐字生成、按输出 token 计费,而且同一输入可能得到不同答案。 在 Decision Bench v4 上,Drex Max 的典型请求耗时 183 毫秒,GPT-6 Sol 约 2 秒,Claude Opus 5.5 约 3.5 秒;同一基准上 Drex Max 与 GPT-6 Sol 统计上持平,落后 Opus 1.6 个百分点。

模型只接受调用方给出的选项,因此不会编造选项,也没有自由文本需要校验,截断、坏 JSON 和选项外答案都不会出现。 决策模型按选项打分,输出是每个选项一个概率,而不是一句话或待解析的 JSON。 Drex Max 自报置信度不低于 93% 时,实际正确率为 97%;打乱提示中选项顺序后,只有 4.3% 的答案改变,且其中多数是模型此前已标为不确定的答案。

同一案件上的多个问题可以共用一次对案件的读取,这让它在需要连续做小判断的智能体流程里可以与大语言模型分工。 大语言模型负责规划和写作,沿途大量小选择交给决策模型,两者常配合使用。 材料列出的适用场景包括工单与邮件分流、欺诈告警与信用风险分档、文档字段与条款核对、检索时挑选含答案的页面和表格、浏览器操作中选下一次点击,以及给智能体运行结果打分。

启示与展望

材料界定的适用范围是选项可预先列举、且判断所需事实位于所发送案件中的高频调用;开放式写作、摘要和代码,以及答案无法列举或依赖模型记忆知识的任务,仍被列为大语言模型的强项。Drex 家族四个开放模型的权重与推理代码发布在 GitHub 和 Hugging Face,Drex Max 另可读取屏幕、图像和视频并通过 Drex API 提供。

延迟与统计持平的说法来自官方技术报告在 Decision Bench v4 上的测量,置信度校准与 4.3% 的答案变化率同样是官方给出的数字;材料未说明这些评测的样本规模,也未给出在用户自有数据上的表现。