JEV-CPU

JEV-CPU

在普通笔记本 CPU 上，从小模型的选项概率中读出决策，不需要 GPU，还带浏览器界面。适合想在智能体里做快速路由和分流选择的开发者。

由 Meanblock 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：JEV-CPU 做决策时不写答案。你描述一个情境，加上一条判断标准，并列出有类型的选项，它就会从小模型 Qwen3-0.6B 的 logits 中读出每个选项的概率，约一秒完成。它把 SemIf 项目改造成能在普通 CPU 上运行，并加了一个网页界面。这是一个独立项目，没有得到 SemIf 作者的认可。

适合谁：适合构建智能体、需要便宜又快速的选择（比如把这个转给谁、重试那个、证据是否支持某个说法），并且没有 GPU 的开发者。

行业 | 谁在用 | 怎么用 | 例子
客户支持 | 支持工程师 | 给收到的消息分类并排出优先级 | 被标为紧急或常规的工单
内容审核 | 信任与安全团队 | 按书面标准给内容分流 | 被分到审核或放行的帖子
软件 | 工程负责人 | 给代码评审分流，并评定事故严重程度 | 被标为低风险或高风险的改动
金融与合规 | 运营团队 | 按既定规则筛查条目 | 被标记需要人工检查的申请

如果你需要自由书写的回答，可以跳过它，因为它只给你声明的选项打分。

用在哪里：它通过 Python 和 transformers 在笔记本 CPU 上运行，并带有浏览器界面。

• Windows、macOS 或 Linux 上的笔记本或台式机 CPU
• 带有 transformers 库的 Python
• 项目自带的网页界面

使用场景 | 谁用 | 得到什么
路由 | 智能体开发者 | 每个去向的概率
内容分流 | 审核团队 | 每个决策选项的概率
严重程度评定 | 运营团队 | 每个级别的概率

如何设置：你需要装有 pip 的 Python、一个 CPU，以及约 2.4 GB 的空间放 float32 的 Qwen3-0.6B 权重。模型卡里有专门的快速开始部分说明如何运行。

• 装有 pip 的 Python
• 一个 CPU，不需要 GPU
• 约 2.4 GB 的空间放 float32 的模型权重

1. 安装 Hugging Face 下载工具。
2. 把项目文件下载到你的电脑上。
3. 按模型卡快速开始部分的说明启动引擎和网页界面。

pip install -U huggingface_hub
hf download Meanblock/JEV-CPU

如何使用：在网页界面里输入状态、添加你的判断标准，并声明有类型的选项。引擎随后在约一秒内返回决策，不生成任何文字。在底层，它取一次前向传播最后位置的 logits。

logits = model(**inputs, use_cache=False).logits[:, -1, :]

工具 | 作用
网页界面 | 接收状态、判断标准和选项
CPU 引擎 | 以 float32 加载 Qwen3-0.6B 并给选项打分
选项 logits | 转换成每个选项显示的概率

示例：输入一条客户消息作为状态，加上判断它有多紧急的标准，再声明紧急和常规这样的选项。页面会显示每个选项的概率，让你看到模型有多确定。

新手与专家：大多数语言模型会写出一句话，你再从中读出答案。这个模型跳过了写作，直接以数字的形式读出模型倾向于哪个选项。第一个小尝试，是在网页界面里输入一条简短的消息，并给它两个选项。

对熟悉这个领域的人来说，每个选项被分配一个大写字母，提示词只要求回复那个字母，并且关闭了思考。引擎会检查每个字母都是一个经得起解码往返的单一词元，然后运行一次前向传播，并对这些字母位置做 softmax。取舍在于模型大小和硬件：CPU 上的 0.6B 模型容易上手，而上游项目面向的是 CUDA 上的 4B BF16 模型。

你输入状态并添加判断标准
每个选项得到一个单词元字母
在 CPU 上运行一次前向传播
读取最后位置的 logits
softmax 给出每个选项的概率

注意事项：模型卡展示了一个覆盖八个领域的在线演示，并给出约一秒的决策时间。

• 独立项目：这个项目与 SemIf 的作者、TypeSafe 或 Jev 没有关联。
• 不生成：它从不采样答案，所以没有需要修复的 JSON。
• 相同的评分：它复用了 SemIf 原版的评分代码，只换了模型加载器。

• License: MIT。
• Cost to run: 未提及，来源没有列出 API 密钥、账号或付费服务。
• Data it reaches: 你在自己机器上输入的状态和判断标准，以及你下载的模型文件。
• Not for: 生成书面回答，因为它读取的是选项概率，不写任何文字。

Hugging Face 上的数据（2026年11月13日）

• 任务：zero shot classification
• 框架：transformers
• 最近 30 天下载：0
• 点赞：67
• 许可证：mit
• 基于：Qwen/Qwen3-0.6B
• 标签：transformers, semantic-if, decision, semif, zero-shot-classification

链接

• 模型：https://huggingface.co/Meanblock/JEV-CPU
• 文件：https://huggingface.co/Meanblock/JEV-CPU/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Meanblock/JEV-CPU

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。