Seb-9B-v2

Seb-9B-v2

基于 Qwen3.5-9B 的 9B 决策模型。你给它一个情境、一个问题和若干选项，它一次计算就返回每个选项的可能性，不生成任何文字。

由 ironbcc 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Seb-9B-v2 是一个紧凑的模型，它负责做决定，而不是写文章。把一个用文本或 JSON 写成的情境喂给它，再加一个问题和几个备选答案，它就给出每个选项的可能性。

它只需一次前向传播，所以不会逐词元生成。模型卡把工单分派、钓鱼邮件识别和选择机器人的下一步动作，都当作同一种调用的例子。

适合谁：适合需要在应用内做快速分类或分派的开发者，比如给工单分类、标记有风险的消息或选择下一步。它基于 Qwen3.5-9B。

Industry | Who uses it | How they use it | Example
客户服务 | 支持平台团队 | 把工单分派给合适的团队 | 从十个选项里选出处理团队
安全 | 邮件和滥用防护团队 | 标记钓鱼和越狱尝试 | 给一条消息打分，判断是否为钓鱼
机器人 | 机器人开发者 | 选择下一个高层动作 | 选出接下来要分拣哪个物体
AI 平台 | LLM 网关构建者 | 把请求路由到合适的模型 | 放在更大模型前面的第一层路由器

如果你需要写答案或文章的模型，或者需要有深厚通用知识和推理能力的模型，可以跳过它。

用在哪里：它通过 transformers 库在 Python 里运行，模型卡还介绍了在设备和服务器上的使用。

• 需要快速决策的应用后端
• 边缘设备，因为模型卡给出了在 Apple M5 Max 笔记本芯片上的耗时
• GPU 服务器，耗时数据来自 RTX PRO 6000
• 机器人和游戏的控制循环，模型卡的演示就是这样

Use case | Who | What they get back
工单分派 | 支持团队 | 每个团队选项的概率
消息筛查 | 安全团队 | 一条消息属于钓鱼的可能性
机器人决策 | 机器人开发者 | 带有各选项概率的下一步动作选择

如何设置：你需要 Python 和足够运行 9B 模型的内存，BF16 约 19.3 GB。模型卡可见的部分只给出下载步骤，并指向一篇博客文章，里面有边缘使用、路由和机器人演示。

• 带 pip 的 Python
• BF16 权重约 19.3 GB，4 位约 4.8 GB（估算）
• 一块 GPU 或较新的 Apple 芯片，才能达到模型卡报告的速度

1. 用 pip 安装 Hugging Face 的 hub 工具。
2. 用 hf 命令下载模型文件。
3. 用你惯用的 transformers 流程加载模型，并传入情境、问题和选项。

pip install -U huggingface_hub
hf download ironbcc/Seb-9B-v2

如何使用：把每个决策表述为一个情境、一个问题和一组选项。模型卡描述了三种问题类型，模型会给每个选项一个概率。

Type | Options | Example
noul | Y 或 N | 评论里提到退款吗？
choice | 字母 A 到 T，最多 20 个选项 | 哪个团队应该处理这张工单？
score | 数字 0 到 4 | 这条消息有多紧急？

示例：你发送一条客户消息，并问应该由哪个团队处理，选项是 A 到 D。模型一次计算就返回每个团队的概率，你按最高的那个行动。

新手与专家：如果你是新手，把它想成一个选择题判卷员，而不是聊天机器人。先对一段短文本问一个是或否的问题，看它返回的概率。

如果你熟悉这个领域：它是 Qwen3.5-9B 之上的 9B 分类头，一次前向传播就返回各选项的概率。每个决策的耗时，模型卡列出的是 RTX PRO 6000 GPU 上约 22 毫秒、Apple M5 Max 上约 88 毫秒。校准稍有退步，因为 v1 的校准仍然更好。

情境、问题和选项输入
运行一次前向传播
输出每个选项的概率
你的应用取最高的选项

注意事项：模型卡报告在 17 个公开测试集上平均准确率为 0.801，并在若干测试上比第一版 Seb-9B 有提升。它还说，在知识和推理类基准上，有一个对手模型明显更好。

Title: 17 个公开测试集上的平均准确率
Seb-9B-v2: 0.801 准确率
Seb-9B: 0.792 准确率
Jev 1.13 hosted: 0.786 准确率
Laya: 0.694 准确率

Title: 相对第一版 Seb-9B 的最大提升
Test | Seb-9B | Seb-9B-v2
BANKING77 | 0.907 | 0.973
越狱检测 | 0.868 | 0.940
模型路由 | 0.945 | 0.980
钓鱼识别 | 0.863 | 0.895
MASSIVE 场景 | 0.780 | 0.833

• License: Apache 2.0
• Cost to run: 未提及费用，但 9B 模型需要性能足够的 GPU 或芯片
• Data it reaches: 你输入的情境文本或 JSON，以及你下载的文件
• Not for: 写文字，以及模型卡说对手明显更好的知识密集型考试

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：transformers
• 参数量：9.7B
• Weights: about 19.3 GB in BF16; about 4.8 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：265
• 点赞：4
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.5-9B
• Quantized versions: 2
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, decision-model, typed-decisions, classification, routing, calibrated-probabilities, text-classification

链接

• 模型：https://huggingface.co/ironbcc/Seb-9B-v2
• 文件：https://huggingface.co/ironbcc/Seb-9B-v2/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ironbcc/Seb-9B-v2

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。