d3-turbo

d3-turbo

在一次调用中回答关于文字、图片或视频的选择、是非、打分、框选和跟踪类问题，并为每个答案给出概率。适合构建路由或视觉检查的人。

由 vllm-sr 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：d3-turbo 是 vllm-sr 的 Decision 3.0 里的升级版模型，Decision 3.0 是 vLLM Semantic Router 使用的决策模型，d3-turbo 约有 26.1B 参数，其中包含 0.46B 的视觉编码器。你给它文字、JSON、图片或视频，以及一组问题：选择、是非、打分，或某样东西在图片或视频里的位置。它只读一次输入，并为每个答案返回概率，而不是写出文字。

适合谁：它适合构建路由、审核、分诊或视觉检查环节的工程师，也适合已经在运行 vLLM Semantic Router 的团队。它还适合必须在照片里定位物体或在视频片段里跟踪它的人。

行业 | 使用者 | 用法 | 例子
客户支持 | 支持团队 | 路由一条消息并评估紧急程度 | 为一个物品损坏的请求选出处理团队
媒体和野生动物 | 视频分析师 | 在片段里跟踪一个对象 | 在一段短视频里跟踪一只蜂鸟
零售 | 运营团队 | 询问商品照片里某样东西的位置 | 得到一个框住物品的框和置信度

需要能写文字或聊天的模型的人可以跳过，因为它只给答案打分。

用在哪里：

• 使用 Transformers 的 Python，按名称加载模型
• vLLM Semantic Router，它属于这个路由器的决策模型
• Hugging Face，官方 Space 和免费 API 都在提供它
• Windows、macOS 或 Linux，用 Python 就能下载文件

使用场景 | 谁用 | 得到什么
路由请求 | 支持团队 | 每个团队选项的概率
定位物体 | 视觉工程师 | 一个带置信度的框
跟踪对象 | 视频分析师 | 随时间变化的框，以及目标可见的可能性

如何设置：

• 装有 pip 的 Python
• Transformers 5.17.0，外加 torch、torchvision、pillow、opencv-python-headless、safetensors 和 accelerate
• 可选的 flash-linear-attention，为线性注意力层提供更快的 GPU 内核
• 一块有空间放下约 52.2 GB BF16 权重的 GPU，4 比特约 13 GB，为估算值

1. 用 pip 安装这些软件包。
2. 可选地加装 flash-linear-attention。
3. 用 Transformers 加载模型，并允许它的远程代码。
4. 用你的输入和问题调用模型。

pip install "transformers==5.17.0" torch torchvision pillow opencv-python-headless safetensors accelerate
pip install flash-linear-attention  # optional: fast GPU kernels for the linear-attention layers

pip install -U huggingface_hub
hf download vllm-sr/d3-turbo

如何使用：加载模型，然后调用它的 system_one 方法，传入你的输入和一组问题。关于同一个输入的多个问题在一次调用里回答。输入很长时，打开 long_context 选项，每个问题的上限就从 32,768 提高到 131,072 个 token。

from huggingface_hub import hf_hub_download
from transformers import AutoModel

model = AutoModel.from_pretrained("vllm-sr/d3-turbo", trust_remote_code=True)

问题类型 | 回答什么
Choice | 在你列出的选项里挑一个
Yes / No | 对一个问题回答是或否
Score | 按你定义的量表给输入评分
Box | 找出某样东西在图片或视频片刻中的位置
Track | 在整段视频里跟踪一个目标

示例：你给它一张有几只动物的照片，要求框出其中一只。模型返回一个框和一个置信度。模型卡在自己的测试集上测得，IoU 0.5 时框的准确率为 0.90。

新手与专家：决策模型用概率而不是句子来回答，所以你的应用可以按最可能的选项行动。先从纯文字的选择题开始，再加入图片或视频。

同系列的 d3-flash 会为每个问题重新读一遍输入，而 d3-turbo 只读一次。模型卡发现，只有一个问题时 d3-flash 更快，从四个问题起 d3-turbo 领先，问到 255 个时快 15.5 倍。图片也可以放在某一个问题或选项里，这样只有它能看到这张图。

提供文字、JSON、图片或视频
加上问题，需要时用 Box 或 Track
模型只读一次输入
每个答案都带着概率返回
你的应用按最可能的答案行动

Title: 作者自己估算的 Jev Decision Index
Text, d3: 66.3
Text, d3-turbo: 70.2
Vision, d3: 71.3
Vision, d3-turbo: 72.9

Title: 回答关于一张照片的 255 个问题所用的时间，单位秒
d3-turbo: 2.12 s
d3-flash: 32.94 s

注意事项：

• 规模：记录里列的是约 26.1B 参数和 52.2 GB 的 BF16，而模型卡称它是 27B 模型
• 得分：70.2 的文本成绩和 72.9 的视觉成绩是作者自己的估算，不是官方榜单结果
• 上下文：默认 32,768 个 token，开启 long_context 选项后为 131,072
• 远程代码：示例用 trust_remote_code 加载模型，这会运行模型仓库里的代码
• License: Apache 2.0
• Cost to run: 本地使用未提及费用，模型卡提供免费的托管试用
• Data it reaches: 你传入的输入，而 pip 会从网络获取软件包，托管 API 会收到你发给它的内容
• Not for: 写作或聊天，因为它返回的是概率而不是文字

Hugging Face 上的数据（2026年11月13日）

• 任务：zero shot classification
• 框架：transformers
• 参数量：26.1B
• Weights: about 52.2 GB in BF16; about 13 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：4,186
• 点赞：133
• 许可证：apache-2.0
• Quantized versions: 8
• Fine-tunes: 4
• 标签：transformers, safetensors, qwen3_5, feature-extraction, zero-shot-classification, decision-model, classification, system-one, multimodal, vision, video, object-detection

链接

• 模型：https://huggingface.co/vllm-sr/d3-turbo
• 文件：https://huggingface.co/vllm-sr/d3-turbo/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download vllm-sr/d3-turbo

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。