pplx-decider-v1.2

pplx-decider-v1.2

一次读入一个情境和多个问题，再逐个给出选择、是否或分数。适合需要分派、标记或评估请求的团队。

由 perplexity-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：pplx-decider-v1.2 是 Perplexity 推出的文本分类模型，一次读入一个情境和多个问题，再逐个作答。它是 v1.1 27B 决策模型的后续版本，沿用同一个 Qwen3.8-27B 基础模型，能处理文本和图像。

适合谁：适合需要让模型对一段文字做结构化判断的团队，比如分派消息，或评估客户的不满程度。比较决策类基准的研究人员也可以使用。

Industry | Who uses it | How they use it | Example
客户支持 | 支持工程师 | 把每条消息分给合适的团队，并标出被卡住的客户 | 密钥更换后出现 401 错误，会分给支持团队
软件 | 机器学习工程师 | 加一个能同时回答多个问题的分类步骤 | 给一张工单标上团队、紧急标记和情绪分数
研究 | 评测研究人员 | 比较不同模型版本的决策基准 | 用联合请求和单问题请求跑同一套测试

如果你没有约 52 GiB 空间的 GPU，可以跳过本地运行。

用在哪里：

• 带 CUDA GPU 的机器上的 Python 脚本或服务
• 在 Linux、Windows 或 macOS 上下载文件
• 文本请求，以及最高 1.6 MP 的图像

Use case | Who | What they get back
请求分派 | 支持团队 | 每条消息对应的团队
紧急程度检查 | 运营人员 | 客户是否被卡住的是或否
情绪评分 | 支持主管 | 从你提供的等级列表中选出的分数

如何设置：

• Python 3.12 或更高版本
• 一块 CUDA GPU，能装下大约 52 GiB 的 BF16 权重，还要有额外的工作内存
• 一个有访问权限的 Hugging Face 令牌，因为该仓库是私有的

1. 安装 Hugging Face hub 包。
2. 把仓库下载到你的电脑。
3. 安装下载文件夹里的依赖文件所固定的各个包。

pip install -U huggingface_hub
hf download perplexity-ai/pplx-decider-v1.2

也可以把 source 文件夹安装成一个包：

pip install ./source

如何使用：加载检查点，在 GPU 上创建 Decider，再用包含状态和一组问题的请求调用 decide。每个问题都有类型，比如 choice、noul 或 score。

import sys
from pathlib import Path
from huggingface_hub import snapshot_download

checkpoint = Path(snapshot_download("perplexity-ai/pplx-decider-v1.2"))
sys.path.insert(0, str(checkpoint / "source" / "src"))
from pplx_decider import Decider

decider = Decider.from_pretrained(checkpoint, device="cuda")

Tool | What it does
Decider.from_pretrained | 把检查点加载到 CUDA 设备上
decide | 接收一个请求并返回一个响应，传入请求列表则返回响应列表

示例：一位客户说，自从轮换了 API 密钥，集成就一直报 401。你问：该由哪个团队处理，客户是否被卡住，他听起来有多沮丧。响应里每个问题各有一个答案，比如团队选择，以及紧急程度的是或否。

新手与专家：如果你是新手，可以把它当作一个分拣器。你给它一个情境和几个问题，它为每个问题给出答案。先下载文件，用一条示例消息试一次。

在内部，每个问题都在紧跟其选项的特殊标记词元处读出结果，所以一次前向计算就能覆盖所有问题。多问几个问题成本很低，但问题之间会互相影响，卡片说明当问题是相互竞争的候选项时，这会有损效果。检查点通过权重平均合并了多次训练。

状态和问题作为一个请求输入
一次通过 27B 模型
每个问题的选项后跟一个标记词元
每个标记给出该问题的答案

注意事项：

• 硬件：BF16 权重约 52.2 GB，所以要准备大显存的 CUDA GPU
• 请求超过长度上限时会被拆成几部分
• License: Apache 2.0
• Cost to run: 没有列出付费服务，但你需要一块够用的 GPU 和一个有访问权限的 Hugging Face 令牌
• Data it reaches: 你发送的文本和图像，以及从 Hugging Face 下载的文件
• Not for: 没有 CUDA GPU 的机器，因为卡片要求使用 GPU

Title: Overall Decision Index 0.3
v1.1 27b: 62.30 分
v1.2 联合请求: 68.09 分
v1.2 每次一个问题: 67.75 分

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：pytorch
• 参数量：26.1B
• Weights: about 52.2 GB in BF16; about 13 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：5,700
• 点赞：74
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.8-27B
• Fine-tunes: 15
• 标签：pytorch, safetensors, qwen3_5, classification, multimodal, custom-code, decider, decision-model, text-classification

链接

• 模型：https://huggingface.co/perplexity-ai/pplx-decider-v1.2
• 文件：https://huggingface.co/perplexity-ai/pplx-decider-v1.2/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download perplexity-ai/pplx-decider-v1.2

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。