Hermes 4 14B

Hermes 4 14B

Nous Research 的 14B 混合推理模型，基于 Qwen3-14B。它可以逐步思考、调用工具，并返回符合模式的 JSON。使用 ChatML 提示格式。

由 NousResearch 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Hermes 4 14B 是 Nous Research 的混合推理模型，基于 Qwen3-14B。当它决定深思时，可以把思考写在 think 标签之间，也可以在你想要速度时直接回答。它经过训练，能按你给的模式生成有效的 JSON，修复格式错误的对象，并在单次回复里调用工具。它使用 ChatML 提示格式。

适合谁：它适合想要一个带可选推理、工具调用和结构化输出的开源 14B 模型的开发者，也适合研究系统提示如何引导模型的研究者。

行业 | 谁在用 | 怎么用 | 例子
软件开发 | 应用开发者 | 构建能调用工具并返回 JSON 的助手 | 给它一个天气工具，询问某个城市
数据工作 | 提取结构化数据的团队 | 得到符合模式的输出 | 按你的模式要求返回 JSON，并让它修复一个损坏的对象
研究 | 研究可引导性的研究者 | 测试系统提示如何改变风格和策略 | 添加系统指令并比较各个回复

如果你想要内置严格拒绝机制的模型，可能更适合选别的。模型卡描述的是较低的拒绝率和大体中立的对齐。

用在哪里：

• 使用 transformers 库的 Python 项目，Hugging Face 页面就是这样列出的
• 接受 ChatML 格式的本地运行器和服务器
• 解析 tool_call 标签的智能体和工具调用配置
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

用途 | 谁用 | 能得到什么
推理 | 开发者 | 在 think 标签之间的思考，然后是最终答案
工具调用 | 智能体开发者 | 一次回复里的工具调用，然后是基于工具响应的答案
结构化输出 | 数据团队 | 符合你提供的模式的 JSON

如何设置：
你需要先准备：

• Python 和 Hugging Face 命令行
• 一台带 GPU、内存足够放下 14B 模型的电脑，或者别人发布的量化版本之一
• 一个会应用该模型聊天模板的运行器

1. 安装 Hugging Face 工具。
2. 下载模型文件。
3. 用 transformers 加载模型，并以 ChatML 格式发送提示。

pip install -U huggingface_hub
hf download NousResearch/Hermes-4-14B

如何使用：
模型读取 ChatML，带有角色头和特殊标签。推理模式通过聊天模板的 thinking=True 标志开启，或者通过模型卡的系统提示开启。你可以在它之前或之后添加自己的系统指令，它们会改变策略、风格、思考的力度和答案的格式。

<|im_start|>system

You are Hermes 4. Be concise and helpful.<|im_end|>
<|im_start|>user

Explain the photoelectric effect simply.<|im_end|>
<|im_start|>assistant

部分 | 作用
thinking 标志 | 通过聊天模板开启推理模式
keep_cots 标志 | 保留 think 标签之间的内容
系统提示 | 调整策略、风格、力度和格式
工具标签 | tools、tool_call 和 tool_response 标签在一轮里标记函数调用

示例：你发送模型卡的基础提示，请求对光电效应做简单的解释。开启推理后，模型可能先在 think 标签之间写出它的想法，再给出最终答案。

新手与专家：第一次尝试可以用上面的基础聊天提示。然后用 thinking=True 打开推理模式，比较两个答案。

对懂行的人来说，训练用了一个新合成的后训练语料，强调经过验证的推理轨迹。模型只在它选择时才深思，并且可以在推理之后、同一个助手回合里调用函数。工具响应之后，它会在 think 块里继续推理并写出最终答案。你可以在一套配置里把工具定义消息与推理系统提示结合起来。

你发送带系统消息的 ChatML 提示
推理模式可能加入一个 think 片段
模型可以在同一回合里调用工具
它读取工具响应并写出答案

注意事项：

Title: 后训练样本数，单位百万
Hermes 3: 1 million
Hermes 4: 5 million

• 训练数据：后训练数据集从约 100 万个样本和 12 亿个 token 增长到约 500 万个样本和 600 亿个 token，混合了推理和非推理数据。
• 拒绝：模型卡报告了较低的拒绝率，介绍了作者自己做的一个名为 RefusalBench 的基准，并称对齐大体中立。请对照你自己的政策和法律义务来检查。
• 基准测试：模型卡展示了基准测试图片并指向技术报告，具体数字请去查看。
• 变体：页面列出了许多别人制作的量化和微调版本。
• License: apache-2.0
• Cost to run: 没有提到 API 密钥或付费服务。模型卡还提到 Nous Research 的一个托管聊天，那是另外的服务。
• Data it reaches: 它从 Hugging Face 下载文件，本地运行的数据留在你的机器上。
• Not for: 需要把严格拒绝机制内置在模型里的场合。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：425K
• Weights: about 1 MB in BF16; about 1 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：6,062
• 点赞：205
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen3-14B
• Quantized versions: 31
• Fine-tunes: 9
• 标签：transformers, safetensors, qwen3, text-generation, qwen-3-14b, instruct, finetune, reasoning, hybrid-mode, chatml, atropos, dataforge

链接

• 模型：https://huggingface.co/NousResearch/Hermes-4-14B
• 文件：https://huggingface.co/NousResearch/Hermes-4-14B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download NousResearch/Hermes-4-14B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。