d3-ultra

d3-ultra

对同一份文本、图片或视频输入一次回答多个问题，为每个答案给出概率，不生成文字。这是 vLLM Semantic Router 推出的 27B 多模态决策模型。

由 vllm-sr 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：d3-ultra 是 vllm-sr 推出的多模态决策模型，属于 vLLM Semantic Router 使用的决策模型之一。你发送文本或 JSON，还可以加上图片或视频片段，连同你的问题一起。模型为每个答案返回概率，而不是写出文字。

适合谁：适合构建路由、过滤或审核环节的开发者，这些环节需要对文本、图片或视频片段快速做出带分数的判断。

Industry | Who uses it | How they use it | Example
软件 | 平台工程师 | 对同一份输入问多个问题，来路由或标记请求 | 这条消息是否紧急，是或否
媒体 | 内容审核员 | 询问某样东西在图片或视频里的位置 | 在一幅画里找到一只猫
研究 | 机器学习研究人员 | 研究会返回概率的决策模型 | 用分数比较各个选项
数据分析 | 数据团队 | 基于一次读取，在量表上给条目打分 | 给一张照片的多个特征打分

如果你想要自由写作或聊天回复，可以跳过它，因为它不生成文字。

用在哪里：

• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件
• 使用 transformers 库的 Python 程序
• 模型卡指向的免费托管 API 和官方 Space

Use case | Who | What they get back
选择 | 开发者 | 你列出的每个选项的概率
是或否 | 审核员 | 每个是非问题的概率
框选 | 图片和视频团队 | 一个框，以及目标是否在那里的置信度
评分 | 分析人员 | 输入在量表上的评分

如何设置：

• Python，用来运行 Hugging Face 下载工具
• BF16 权重约需 52.2 GB 磁盘，按估算 4-bit 约 13 GB
• 能运行 27B 模型的 GPU，模型卡引用的是一块 AMD Instinct MI325X

1. 用 pip 安装 Hugging Face 的 hub 工具。
2. 用 hf 命令下载模型文件。
3. 按模型卡的快速入门发出你的第一个请求。

pip install -U huggingface_hub
hf download vllm-sr/d3-ultra

如何使用：你发送一个请求，里面包含输入和你的问题。模型卡列出五种决策类型，所以每个问题可以是选择、是或否、评分、图片或视频片段里的框选，或者对整段视频的跟踪。

Tool | What it does
选择 | 从你给出的几个选项中选出一个
Yes / No | 为是非问题返回概率
评分 | 在量表上给输入打分
框选 | 指出图片或视频片段里的位置
跟踪 | 在整段视频中跟踪一个目标

示例：你在一个请求里发送一幅画，并就它提十个问题。模型卡用修拉的《大碗岛的星期天下午》演示了这一点。每个选项都带着概率返回，而这幅画只读一次。

新手与专家：先用模型卡提到的免费托管 API，或者下载文件并运行模型卡的快速入门。先对一张图片问一个是或否的问题，看它返回的概率。

模型有 26.09B 参数，其中包括 0.46B 的视觉编码器，每个问题最多接受 131,072 个 token。一次读取输入就能服务所有问题。在模型卡对一张照片的中位数计时里，问 1 到 255 个问题，用时从 304 ms 到 2.16 s。

发送文本、图片或视频
加上你的问题
模型只读一次输入
每个问题都得到回答
返回概率

注意事项：

• License: Apache 2.0
• Cost to run: 没有提到费用，不过有免费托管 API，运行文件则需要你自己的硬件
• Data it reaches: 你发送的文本、JSON、图片和视频，以及下载时用到的 Hugging Face
• Not for: 写作或聊天，因为它返回概率，不生成文字

Hugging Face 上的数据（2026年11月13日）

• 任务：zero shot classification
• 框架：transformers
• 参数量：26.1B
• Weights: about 52.2 GB in BF16; about 13 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：2,398
• 点赞：61
• 许可证：apache-2.0
• Quantized versions: 8
• Fine-tunes: 1
• 标签：transformers, safetensors, qwen3_5, feature-extraction, zero-shot-classification, decision-model, classification, system-one, multimodal, vision, video, object-detection

链接

• 模型：https://huggingface.co/vllm-sr/d3-ultra
• 文件：https://huggingface.co/vllm-sr/d3-ultra/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download vllm-sr/d3-ultra

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。