Drex DLM

Drex DLM

一次推理就对一份文档的是非题、选择题和打分题给出每个选项的概率。这是 Nace.AI 的 8B 决策模型，你可以自己运行，许可证为非商业。

由 nace-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Drex DLM 是 Nace.AI 推出的决策模型。你给它一份文档和一组命名的问题，它会为每个问题的每个选项返回一个概率。问题可以是是非题、选择题或打分题，全部在一次前向推理里完成评分。它基于 NVIDIA 的 Efficient-DLM-8B 扩散语言模型，外加一个小的指针头。

适合谁：如果你是需要从文本得到结构化决策的开发者，比如给客服工单分类，并且想自己托管模型，它适合你。

行业 | 谁在用 | 怎么用 | 例子
客户支持 | 客服负责人和开发者 | 按团队、退款请求和紧急程度给工单分类 | 一张重复扣款的工单，对账单、退款和紧急程度打分
后台运营 | 运营团队 | 把文档变成带类型的答案 | 针对一条记录提是非题
软件 | 开发者 | 在自己的机器上运行与托管的 Drex 服务相同的 API | 把现有客户端指向本地服务器
研究 | 应用机器学习研究人员 | 研究带指针头的扩散语言模型 | 比较各问题的选项概率

如果你需要它写回自由文本，或需要允许商业使用的许可证，可以跳过它。

用在哪里：模型卡说它在 Apple M5 Max 和 M5 Pro 机器以及带 CUDA 的 NVIDIA H100 上测试过，仅用 CPU 的运行没有测试过。

• 苹果芯片的 Mac，或带 NVIDIA GPU 的机器
• Python 3.12，模型卡验证过的解释器
• 任何使用 System One 请求格式的客户端

使用场景 | 谁用 | 得到什么
工单分流 | 客服团队 | 团队、退款问题和紧急程度的概率
文档问答 | 分析师 | 针对文档、逐个选项给出的带类型答案
本地替换服务器 | 开发者 | 与托管 API 相同的请求格式

如何设置：你需要 Python 3.12、git，以及大约 16 GB 内存来放 BF16 权重。内存占用会随上下文长度和批大小增长。

• Python 3.12
• git，用来获取项目的仓库
• 约 16 GB 内存用来放权重

1. 像模型卡的快速开始那样，从 GitHub 克隆项目的仓库。
2. 创建虚拟环境并安装依赖。
3. 把权重下载到 weights 文件夹。
4. 对示例请求运行推理脚本。

cd drex-decision-models
python3.12 -m venv .venv
source .venv/bin/activate
python -m pip install -r requirements.txt
hf download nace-ai/drex-dlm --local-dir weights/drex-dlm
python inference.py --model weights/drex-dlm --request examples/request.json

如何使用：最后一条命令会打印示例工单的答案。如果想改为提供服务，就启动服务器脚本，然后用同样的格式给它发请求。服务器有一个健康检查端点，权重加载完成后会报告 ok。

python serve.py --model weights/drex-dlm --port 8000

{
  "state": {
    "ticket": "I was charged twice for the same order. Please refund the extra payment."
  },
  "questions": {
    "team": {
      "type": "choice",
      "instructions": "Which team should handle this ticket?",
      "criteria": {
        "billing": "Payments, charges, and refunds",
        "technical": "Bugs and outages",
        "other": "Anything else"
      }
    },
    "refund": {
      "type": "noul",
      "instructions": "Does the customer explicitly ask for a refund?"
    }
  }
}

Tool | What it does
inference.py | 为一个请求文件打印答案
serve.py | 在你选的端口启动服务器
state field | 放文档，可以是字符串、对象或列表
questions field | 放命名的问题，问题名会作为答案的键返回

示例：你发送重复扣款的工单，问该由哪个团队处理，再问一个关于退款的是非题。回复会给出每个团队和每个退款答案的概率。

新手与专家：如果你刚接触，可以把它想成一张会自己填上可能性的表单。第一件小事是运行快速开始里的示例请求，读一下打印出来的答案。

如果你熟悉这个领域，文档使用双向注意力，每个问题分支关注文档，并在分支内部使用因果注意力。共享的指针头把决策标记和选项结束标记变成查询和键，再用缩放点积、温度和 softmax 得出每个问题的概率。较大的请求会按问题行拆开。

文档作为 state 输入
命名的问题从它分出
一次前向推理给它们打分
指针头给每个选项排序
输出每个选项的概率

注意事项：模型卡列出了 Q8_0 GGUF 副本、llama.cpp 和 Ollama 的分支，以及一个智能体技能。它遵循 System One 请求格式，所以为该格式写的客户端和服务器都能直接使用。

Title: 模型卡报告的 Decision Index 得分
Drex DLM: 52.31
Decider chat: 51.93
Jev: 51.67
AutoJev-27B: 50.94
Jebadiah 27B: 50.32
simple-jev: 50.21

• License: cc-by-nc-4.0，只允许非商业使用
• Cost to run: 没有提到任何 API 密钥或付费服务，BF16 权重约 16 GB
• Data it reaches: 下载来自 Hugging Face 和 GitHub，自己运行的服务器在你自己的机器上处理数据
• Not for: 商业用途，或仅用 CPU 的运行，模型卡说这没有测试过

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：transformers
• 参数量：8.2B
• Weights: about 16.4 GB in BF16; about 4.1 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：177
• 点赞：25
• 许可证：cc-by-nc-4.0
• 基于：nvidia/Efficient-DLM-8B
• Quantized versions: 1
• 标签：transformers, safetensors, edlm, feature-extraction, decision-model, system-one, typed-decisions, decision-index, classification, calibrated-probabilities, decisionbench, zero-shot

链接

• 模型：https://huggingface.co/nace-ai/drex-dlm
• 文件：https://huggingface.co/nace-ai/drex-dlm/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download nace-ai/drex-dlm

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。