pplx-decider-flash-v1.2

pplx-decider-flash-v1.2

Perplexity 的小型决策模型，基于 Qwen3.5-4B，读取文字和图片，用概率回答选择题、是非题和打分题，适合快速分流和分诊。

由 perplexity-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：pplx-decider-flash-v1.2 是 Perplexity 的小型决策模型。你给它一段文字，有时还有图片，加上一个或多个问题。它对每个问题给出一个选择、一个是非概率，或者你自己定义的量表上的一个分数。

它是 pplx-decider-v1.2 的紧凑版本，大小约为七分之一，基于 Qwen3.5-4B 构建。一个更大的 27B 模型担任教师，小模型学到的是教师整个概率分布，而不只是它最后的选择。多次训练的结果通过平均权重合并在一起。

适合谁：它适合在应用里给请求分类或打分，并且更看重速度或成本而不是最后那几分准确率的开发者。记录列出 4.5B 参数，BF16 约 9.1 GB。

行业 | 谁在用 | 怎么用 | 例子
客户支持 | 支持团队 | 把进来的工单分给正确的团队 | 把付款问题转给账单组
运营 | 平台工程师 | 标记需要马上处理的请求 | 把被卡住的客户标为紧急
社区 | 版主 | 按量表给消息的语气打分 | 给一条留言从平静到愤怒打分
软件 | 开发者 | 在 AI 流程里加入一个便宜的决策步骤 | 在智能体行动前选好工具

如果你需要最高的准确率，可以跳过它，因为 27B 的兄弟版本得分更高，或者你没有 CUDA GPU 也可以跳过。

用在哪里：

• Python 3.12 或更新版本，在带 CUDA GPU 的机器上
• 应用和智能体里的分流、分诊和打分步骤
• Windows、macOS 或 Linux，下载文件步骤需要 Python

用例 | 谁用 | 得到什么
请求分流 | 支持团队 | 选出的选项、每个选项的概率和一个置信度
是非检查 | 开发者 | 答案为真的概率
打分 | 分析师 | 你的量表上的预期等级，加上概率
识图决策 | 开发者 | 同时会看最大 1.6 MP 图片的选择

如何设置：先准备好下面这些东西。

• Python 3.12 或更新版本
• 一块 CUDA GPU，留出约 9 GiB 放 BF16 权重，再留一些空间用来运行
• 一个有权访问该仓库的 Hugging Face 令牌，模型卡称这个仓库是私有的
• 仓库里的依赖文件，它固定了 torch、transformers 和相关包的版本

1. 用 pip 安装 Hugging Face hub 包，并用你的令牌进行认证。
2. 用 hf 命令下载仓库，并安装它的依赖文件。
3. 用仓库 source 文件夹里的 Decider 类加载检查点。

pip install -U huggingface_hub
hf download perplexity-ai/pplx-decider-flash-v1.2

如何使用：你用一个请求调用 decide 函数。请求里有要判断的文字、一个或多个问题，以及可选的图片。每个问题带一个类型，模型会按你列出的顺序看到选项。

工具 | 作用
Decider | 把检查点加载到 CUDA 设备上
decide | 接收一个请求或一组请求，按相同顺序返回答案
依赖文件 | 固定模型需要的包的版本

问题类型 | 返回什么
choice | 选出的选项、每个选项的概率和一个置信度
noul | 答案为真的概率
score | 一个预期等级、概率和一个置信度

示例：一位客户写道，输入银行卡后结账失败。你问这件事该由账单组还是支持组接手，同时问客户是否被卡住了。回复会给出团队名称和一个“是”的概率，你可以拿它和自己的阈值比较。

新手与专家：新手可以把它想成一个会告诉你它有多确定的分拣步骤。先从一个问题和一小段文字开始，行动之前先看概率。

当一个任务有好几个问题时，把它们逐个单独发送，这个模型在大多数测试上得分更高。27B 模型的表现正好相反。蒸馏也提升了训练中没有出现过的决策任务的结果。视觉分数是 72.53，较大的模型是 77.43。

Title: 模型卡中的整体 Decision Index
pplx-decider-v1.2: 68.09 points
Flash 每个请求一个问题: 60.05 points
Flash 联合请求: 58.88 points

写好文字和你的问题
调用 decide 函数
读取答案和概率
分流或根据结果行动

注意事项：

• License: Apache 2.0
• Cost to run: 来源没有提到费用，但你需要一块 CUDA GPU
• Data it reaches: 它用你的令牌从 Hugging Face 下载文件，并读取你传入的文字和图片
• Not for: 在能运行 27B 兄弟版本时追求最高准确率、生成文字，或没有私有仓库访问权限的人

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：pytorch
• 参数量：4.5B
• Weights: about 9.1 GB in BF16; about 2.3 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：7,052
• 点赞：78
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.5-4B
• Quantized versions: 13
• Fine-tunes: 1
• 标签：pytorch, safetensors, qwen3_5, classification, multimodal, custom-code, decider, decision-model, text-classification

链接

• 模型：https://huggingface.co/perplexity-ai/pplx-decider-flash-v1.2
• 文件：https://huggingface.co/perplexity-ai/pplx-decider-flash-v1.2/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download perplexity-ai/pplx-decider-flash-v1.2

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。