LemonDecider 4B

LemonDecider 4B

根据文本状态和命名的问题做有类型的决策，返回选项、是非和有序评分的概率，不生成文字。这是 inclusionAI 的 4.5B 模型，面向开发者。

由 inclusionAI 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：LemonDecider 4B 是 inclusionAI 的决策模型，由 Qwen3.5-4B 微调而来。你给它一个文本状态和若干命名的问题。它对选择题返回概率，对是非题返回概率，或者给出有序量表上的分数，并且不写回答文字。过长的问题列表会被拆分，卡片说输入从不截断。

适合谁：想用一个小型模型做带概率的例行决策，比如给消息分派或判断回答的开发者。

Industry | Who uses it | How they use it | Example
客户服务 | 支持工程师 | 给请求分派并对案例分类 | 为一条来信选定类别
智能体安全 | 智能体构建者 | 判断某个操作是否安全 | 智能体行动前做一次是或否的检查
搜索与电商 | 检索工程师 | 判断相关性并挑选商品 | 给一个结果与查询的匹配程度打分
质量评审 | 机器学习团队 | 比较回答的有用性和正确性 | 在有序量表上给一个回答评分

如果你想要一个能写文字或读图像的模型，可以跳过它，因为它只处理文字并返回概率。

用在哪里：

• 用 Python 和 transformers 库，并加载模型自带的代码
• 下载文件后，在你自己的 Windows、macOS 或 Linux 电脑上使用
• 一个只处理文字的 HTTP 服务，卡片说它已发布

Use case | Who | What they get back
意图分派 | 支持团队 | 你列出的每个选项的概率
是或否检查 | 智能体构建者 | 答案为是的概率
有序评分 | 质量团队 | 有序量表上的分数

如何设置：

• Python 3.12
• Torch 和 Transformers，版本接近卡片评测过的版本，另有运行说明里要求的 FLA 包
• BF16 约需 9.1 GB 磁盘空间，4-bit 约 2.3 GB（估算值）

1. 安装 Hugging Face hub 工具。
2. 下载模型文件。
3. 按卡片的说明加载模型，并允许它运行自带的远程代码。

pip install -U huggingface_hub
hf download inclusionAI/LemonDecider

如何使用：把状态写成文字，给每个问题起名字并指定类型。选择题最多可以有 255 个选项，是非题返回一个概率，打分题返回一个有序评分。能放下的请求会在一次联合计算中完成打分。

示例：一条支持消息说结账一直失败。你问它应该交给列表里的哪个团队处理，以及听起来是否紧急。你得到每个团队的概率和一个紧急程度的概率。

新手与专家：如果你是新手，可以把它看作一台会说出自己有多确定的分类机。先从一个有三个选项的问题开始，读一读概率。

模型采用 Qwen3.5-4B 混合主干，接一个最多覆盖 255 个选项的读出层，并用标量温度做了校准。每个块最多容纳 8192 个 token（含模板），更长的问题列表会用递归二分法拆开，每个块里都保留完整的状态。训练用了约 120 万条决策和问答数据，并对四个检查点做了平均。

你写下一个文本状态
你加入命名且有类型的问题
模型联合给每个选项打分
你读取概率或分数

注意事项：

• 输入：它只处理文字，训练时视觉部分被冻结
• 训练数据：卡片提醒，部分数据的来源专属条款仍需审核

Title: 各问题格式在训练数据中的占比，单位百分比
Choice questions: 84.4 %
Yes or no questions: 15.2 %
Score questions: 0.4 %

• License: apache-2.0
• Cost to run: 没有提到 API 密钥或付费服务，只需要你自己的硬件
• Data it reaches: 下载会取回模型文件，它会读取你发送的文本状态
• Not for: 写文字、读图像，或者忽略卡片关于核查数据条款的提醒的任何用法

Hugging Face 上的数据（2026年11月13日）

• 任务：feature extraction
• 框架：transformers
• 参数量：4.5B
• Weights: about 9.1 GB in BF16; about 2.3 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：988
• 点赞：53
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.5-4B
• Fine-tunes: 1
• 标签：transformers, safetensors, lemondecider_decision, feature-extraction, decision-engine, typed-decision, choice, classification, merge, qwen3.5

链接

• 模型：https://huggingface.co/inclusionAI/LemonDecider
• 文件：https://huggingface.co/inclusionAI/LemonDecider/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download inclusionAI/LemonDecider

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。