joey-1

joey-1

用一个 2B 模型，针对文本或图片回答是非题、选择题和打分题，并返回校准过的概率。适合需要自动分流、分诊或分类请求的团队。

由 baselabs 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：joey-1 是一个 2B 参数的决策模型，由 Baseten 的 Base Labs 基于 Qwen3.5-2B 训练。你给它一段文字描述的情境（可以附带图片）和一组问题，它会给每个答案选项一个概率，并一次处理完所有问题。

适合谁：它适合需要自动判断步骤的开发者，比如把消息分给合适的团队，或判断它有多紧急，并且希望得到可以据以行动的概率。

行业 | 谁在用 | 怎么用 | 例子
客户支持 | 支持工程师 | 把收到的消息分给合适的团队 | 判断一条消息是不是退款请求
后台自动化 | 运营团队 | 给事项的紧急程度打分 | 把投诉从可以等一等排到阻塞中
软件智能体 | 智能体开发者 | 在工作流里加入快速的决策步骤 | 在账单、技术和欺诈处理之间做选择
分类工作 | 数据团队 | 给条目贴上带校准置信度的标签 | 用概率标出不确定的情况

如果你需要自由格式的文本生成，可以跳过它，因为它回答的是选项概率。

用在哪里：

• Baseten Model APIs，它托管模型并接受文字和图片输入
• 你自己的服务器，带一张 CUDA GPU 和模型卡固定的服务运行环境
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用例 | 谁用 | 得到什么
是非检查 | 开发者 | 一个问题答是的概率
选择团队 | 支持团队 | 选出的选项，以及每个命名选项的概率
评估紧急程度 | 运营 | 有序量表上的一个等级，以及各级概率

如何设置：自托管需要一张 CUDA GPU 和指定的 PyTorch 容器镜像。使用托管方式则你这边不需要设置。

• 一张 CUDA GPU
• PyTorch 2.8.0 容器镜像，对应 CUDA 12.8 和 cuDNN 9，devel 版本
• 用来下载文件的 Python 和 huggingface_hub

1. 把模型文件下载到一个 joey-1 文件夹里。
2. 运行安装脚本，它会装好固定版本的服务运行环境。
3. 用下一节的 Python 引擎来提出你的问题。

hf download baselabs/joey-1 --local-dir joey-1 && bash joey-1/setup.sh

如何使用：创建一个决策引擎，为每个问题定义类型，再用情境文本调用 decide。下面的脚本针对一条客户消息问三个问题，并打印答案。

from qev.engine import DecisionEngine
from qev.schema import SystemOneRequest

engine = DecisionEngine("baselabs/joey-1", device="cuda:0")

questions = {
    "refund": {"type": "noul", "instructions": "Is the customer asking for a refund?"},
    "team": {
        "type": "choice",
        "instructions": "Which team should handle this?",
        "criteria": {"billing": "Charges, refunds, invoices",
                     "technical": "App or site faults",
                     "fraud": "Suspected unauthorised use"},
    },
    "urgency": {
        "type": "score",
        "instructions": "How urgent is this?",
        "criteria": ["Can wait", "Today", "Blocking the customer now"],
    },
}
resp, _ = engine.decide(SystemOneRequest(
    state="I was charged twice this month, please refund one of them.", questions=questions))
print(resp.answers)

工具 | 作用
noul | 提出是非问题，返回答是的概率
choice | 在命名的选项中选一个，并给出每个选项的概率
score | 在有序等级上评分，从最低开始，并给出概率

示例：你发送一条客户留言，说银行卡被扣了两次，希望退回其中一笔，并附上退款、团队和紧急程度三个问题。答案里，退款问题大概率为是，团队和紧急程度的每个等级也各有一个概率。

新手与专家：如果你刚接触这类模型，可以把它想成一份针对某条消息的小表单，由模型作答，还会说明它有多确定。第一次可以用上面的脚本，换成你自己的句子。

对熟悉这个领域的人来说，它是对语言模型的完整微调，视觉编码器保持冻结，用交叉熵加 Brier 校准项训练。一次共享前缀预填充处理所有问题，最大序列长度是 16,384 个词元。

Title: Jev 0.4 公开集上的 Decision Index
elephant-1: 72.24
joey-1: 63.30
Cloudflare Clef: 61.71
Jev 1.14: 60.70
Perplexity Decider Flash v1.2: 60.06

你发送情境和你的问题
一次共享预填充读取文字和图片
模型给每个问题的每个选项打分
你得到每个选项的概率

注意事项：超出训练长度的输入会被拒绝而不是被截短，模型卡里的基准分数来自作者自己。

• License: MIT
• Cost to run: 模型卡列出 Baseten Model APIs 的价格是每百万输入词元 0.01 美元，自托管则用你自己的 CUDA GPU
• Data it reaches: 你发送的文字和图片，托管 API 默认开启零数据留存
• Not for: 开放式文本生成，或超出训练限制的输入

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：transformers
• 参数量：2.7B
• Weights: about 5.4 GB in BF16; about 1.4 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,539
• 点赞：47
• 许可证：mit
• 语言：en
• 基于：Qwen/Qwen3.5-2B
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, decision-model, classification, calibration, routing, guardrails, vision, multimodal, baseten

链接

• 模型：https://huggingface.co/baselabs/joey-1
• 文件：https://huggingface.co/baselabs/joey-1/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download baselabs/joey-1

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。