mini-Jev

mini-Jev

根据你给出的候选项，为每个候选返回一个概率，帮助智能体选择该用哪个工具或动作。这是一个早期检查点，适合测试工具选择的开发者。

由 samatv256 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：mini-Jev 是一个面向智能体的小型决策模型。你传入当前状态、一个问题和候选动作，它返回每个候选的概率，而不是文字。它以 Qwen3-0.6B 为基础，加上 LoRA 适配器和一个负责做决定的小型头部，模型卡称它是 10,626 次更新时的早期检查点。

适合谁：需要从固定列表中选出一个工具或动作的智能体开发者最适合它。研究小型决策模型的研究人员也可以使用这个检查点。

行业 | 使用者 | 使用方式 | 例子
软件 | 智能体开发者 | 为用户目标选择要调用的工具 | 从三个候选工具中选出天气工具
研究 | 模型研究人员 | 测试小型决策模型的早期检查点 | 在留出集上检查函数选择的准确率
自动化 | 工作流构建者 | 把请求分流到几个固定动作之一 | 针对发送消息的请求选择邮件动作

如果你需要文字回答、工具参数或很大的候选列表，可以跳过它。

用在哪里：在有合适 GPU 的电脑上，用 Python 脚本使用它。

• 导入它的推理模块的 Python 脚本
• 带有支持 BF16 的 CUDA GPU 的电脑，这是安装包的要求
• Windows、macOS 或 Linux，用 Python 下载文件

用例 | 谁用 | 得到什么
工具选择 | 智能体开发者 | 选中的工具 id 和每个工具的概率
动作分流 | 工作流构建者 | 针对某个状态，从几个固定动作中选出最佳的一个
模型评测 | 研究人员 | 可以和自己的留出选择题对比的分数

如何设置：你需要 Python、一块 GPU 和几次下载。

• 带 pip 的 Python
• 支持 BF16 的 CUDA GPU
• 能联网，用来下载 Qwen3-0.6B 底座模型，它在首次加载时单独下载

1. 安装指定版本的 Hugging Face hub 包。
2. 把 inference.py 和 requirements.txt 下载到一个工作文件夹。
3. 安装列出的依赖。

python -m pip install "huggingface_hub==1.33.0"
hf download samatv256/mini-Jev inference.py requirements.txt --local-dir .
python -m pip install -r requirements.txt

如何使用：导入 MiniJev，加载模型，然后用状态、问题、问题类型和你的候选选项调用 predict。脚本会打印选中的 id 和带分数的选项。

from inference import MiniJev

model = MiniJev.load()  # Defaults to samatv256/mini-Jev using the HF cache.
result = model.predict(
    state={"user_goal": "Find tomorrow's weather forecast for Paris."},
    question="Given the current state and available options,\nwhich option should be selected?",
    question_type="choice",
    answer_options=[
        {"id": "weather", "type": "tool", "label": "get_weather_forecast",
         "description": "Look up the weather forecast for a place and date."},
        {"id": "invoice", "type": "tool", "label": "calculate_invoice_total",
         "description": "Add amounts on an invoice."},
        {"id": "email", "type": "tool", "label": "send_email",
         "description": "Send an email message."},
    ],
)
print(result["selected_id"])
print(result["options"])

Tool | What it does
MiniJev.load | 加载适配器、决策头和底座模型
predict | 针对一个状态和一个问题，给每个候选选项打分
selected_id | 保存模型选中选项的 id
options | 保存所有候选选项的打分列表

要固定某个版本，加载模型时传入它的修订名。

MiniJev.load("samatv256/mini-Jev", revision="step-010626")

示例：你传入查找明天巴黎天气预报这个目标，再给出天气、发票合计和邮件三个工具。脚本会打印它选中的工具 id，以及带分数的选项列表。

新手与专家：可以把它看成一个选择器。你列出选项，它告诉你每个选项是正确下一步的可能性有多大。第一次可以先下载那两个文件，安装依赖，再原样运行上面的代码。

在底层，Qwen3-0.6B 底座模型读取输入，再由一个适配器和一个小的头部把结果变成每个候选的一个分数。候选打分具有排列等变性，所以你列出候选的顺序不应该改变哪一个胜出。代价是适用范围窄，因为它只返回有限选择的概率，而且在大的候选集上表现较弱。

传入状态、问题和候选项
底座模型和适配器读取它们
决策头给每个候选打分
读取选中的 id 和各个概率

注意事项：模型卡列出了四项实测结果，并说明这些百分比不能直接比较。

评测 | 结果 | 范围
BFCL V1 Multiple Function 改编版 | 96.5% (193/200) | 从 2-4 个函数定义中选出正确的函数。它不是官方榜单分数，也不写参数或调用。
严格留出的 Choice | 65.6% (63/96) | 从验证数据中挑选的均衡切片，不是完整的划分。
自建 OOD 类型化决策 | 72.0% (36/50) | 带有简单干扰项的小型合成检查，不是公开基准。
类型化决策完整测试集 | 34.0% (680/2,000) | 按类型看，Choice 得分 27.0%，Noul 为 52.2%，Score 为 25.6%，所以通用的类型化决策是弱项。

• Checkpoint: 这是 10,626 次更新时的临时版本，训练计划进行到 50,000 次更新
• Large sets: 有 17 个或更多候选的留出切片得分为 17 题中的 4 题
• Old files: 顶层的 model.safetensors 和 odm_mini.py 来自更早的版本，只是为了参考而保留
• License: Apache 2.0
• Cost to run: 未提到费用。它需要支持 BF16 的 CUDA GPU
• Data it reaches: 你传入的状态和选项，以及它从 Hugging Face 下载的底座模型和文件
• Not for: 生成文字或工具参数、通用分类、大的候选集，或在任意领域给出校准过的概率

Hugging Face 上的数据（2026年11月13日）

• 框架：custom
• 参数量：263K
• Weights: about 1 MB in F32; about 1 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：291
• 点赞：25
• 许可证：apache-2.0
• 基于：Qwen/Qwen3-0.6B
• 标签：custom, safetensors, mini-jev, decision-model, tool-selection, tool-use, agents, action-selection, decision-making, finite-choice, qwen3

链接

• 模型：https://huggingface.co/samatv256/mini-Jev
• 文件：https://huggingface.co/samatv256/mini-Jev/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download samatv256/mini-Jev

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。