pplx-decider-v1.1-27b

pplx-decider-v1.1-27b

根据文字和图片为一个决策挑出最合适的选项，比如哪个团队应该处理一条请求，并给出每个选项的概率，适合构建分流和审核工作流的开发者。

由 perplexity-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：pplx-decider-v1.1-27b 是 Perplexity 的 27B 决策模型，基于 Qwen3.8-27B 构建。你把一个情境用文字交给它，也可以附上图片，再给一个问题和一组选项，它会为每个选项返回一个概率。它是 v1 的更新版，把总体 Decision Index 得分从 56.4 提高到 61.56。

适合谁：如果你想让模型在工作流里分流请求、给条目评级或做多选判断，它适合你，开发者和运营团队尤其合适。

Title: Who uses this model
行业 | 谁在用 | 怎么用 | 例子
客户支持 | 支持负责人 | 把每条请求交给合适的团队 | 为一条消息在账单、支持和销售之间做选择
运营 | 工作流开发者 | 对收到的条目做结构化判断 | 根据一组标准为工单选一个标签
AI 研究 | 评估研究人员 | 在 Decision Index 上研究决策模型 | 把它和 v1 模型对比

如果你需要能写文字的聊天模型，可以跳过它，因为它返回的是决策概率。

用在哪里：

• 在 CUDA GPU 上使用 PyTorch 的 Python 脚本
• 根据文字和图片分流或评级的工作流
• 装有 Python 3.12 或更新版本的 Windows 或 Linux

Title: Jobs it does
用途 | 适合谁 | 得到什么
分流 | 支持和运营团队 | 每个团队或标签的概率
多选判断 | 开发者 | 你定义的选项上的分布
识别图片的决策 | 工作流开发者 | 参考所附图片得出的选择

如何设置：你需要 Python 3.12 或更新版本、一块放得下约 49 GiB 权重外加工作内存的 CUDA GPU，以及 Hugging Face 的访问权限。模型卡把这个仓库称为私有仓库，所以请用有权限的账号登录。

• Python 3.12 或更新版本
• 一块内存充足的 CUDA GPU
• 有该仓库访问权限的 Hugging Face 登录
• 仓库 requirements.txt 里固定版本的包

1. 下载仓库并安装它固定版本的依赖。
2. 运行示例脚本。它会加载模型和随附的推理代码。
3. 把示例问题和选项换成你自己的。

pip install -U huggingface_hub
hf download perplexity-ai/pplx-decider-v1.1-27b

如何使用：构造一个问题，包含类型、说明和一组带名字的标准。把它连同 state，也就是情境文字，一起传入，然后调用 predict 得到概率。answer 辅助函数会据此挑出结果。请使用随附的推理代码，因为默认的因果注意力无法复现评估时的设置。

import sys
from pathlib import Path
from huggingface_hub import snapshot_download

checkpoint = Path(snapshot_download("perplexity-ai/pplx-decider-v1.1-27b"))
sys.path.insert(0, str(checkpoint / "source" / "src"))
from autojev.model import DecisionModel, answer

model = DecisionModel(checkpoint, device="cuda")
question = {
    "type": "choice",
    "instructions": "Which team should handle this request?",
    "criteria": {
        "billing": "Charges and refunds",
        "support": "Technical integration errors",
        "sales": "Questions about buying a product",
    },
}
row = {"state": "My integration keeps failing. Please help.", "question": question}
probabilities = model.predict([row])[0]
print(answer(question, probabilities))

如果有图片，把它们作为文件路径、PIL 图像或 base64 数据 URL 加进这一行。处理器会保持宽高比，并用 max_image_pixels 限制大小，这个值你可以修改。

model = DecisionModel(checkpoint, device="cuda", max_image_pixels=1600 * 1000)

示例：一条消息说集成一直失败，请求帮助。问题问该由哪个团队处理，选项是账单、支持和销售。模型为每个团队返回一个概率，辅助函数报告最合适的那个。

新手与专家：你可以把它看作一个分类器，读入一个情境和你的选项，告诉你每个选项有多大可能。第一次小测试就是用示例脚本，换成你自己的消息和选项。

检查点是 Qwen3_5Model 主干加一个单独的决策头，没有全词表的语言模型头。全注意力层以非因果模式运行，而线性注意力层保持原来的行为。保存的校准温度只应用一次，并在当前决策的有效候选项上做归一化。

情境文字和图片
非因果主干读取
决策头给选项打分
每个选项的概率

注意事项：输入必须放进 8,192 个 token 以内，更长的会被拒绝，而不是被截断。训练和报告的评估把图片限制在 512 乘 512 像素，所以更大的图片超出训练范围。相比 v1 的大部分提升来自去掉因果掩码和增加训练数据。

Title: Overall Decision Index
Jev: 57.9 分
pplx-decider-v1: 56.4 分
pplx-decider-v1.1: 61.56 分

• License: Apache 2.0。
• Cost to run: 未提及，除了需要一块 CUDA GPU。
• Data it reaches: 文件来自需要登录的 Hugging Face，之后模型在你自己的 GPU 上运行。
• Not for: 聊天或写文字，也不适合需要标准语言模型头、又没有定制导出的服务器。

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：pytorch
• 参数量：26.1B
• Weights: about 52.2 GB in BF16; about 13 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：4,065
• 点赞：182
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.8-27B
• Quantized versions: 4
• Fine-tunes: 3
• 标签：pytorch, safetensors, qwen3_5, classification, multimodal, custom-code, decider, decision-model, text-classification

链接

• 模型：https://huggingface.co/perplexity-ai/pplx-decider-v1.1-27b
• 文件：https://huggingface.co/perplexity-ai/pplx-decider-v1.1-27b/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download perplexity-ai/pplx-decider-v1.1-27b

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。