Hermes-4.3-36B

Hermes-4.3-36B

这是一个推理型对话模型，可以一步步思考，也可以快速作答，还能返回符合你所给模式的 JSON。适合自己部署语言模型的人。

由 NousResearch 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Hermes 4.3 36B 是 NousResearch 推出的推理型对话模型，基于字节跳动的 Seed 36B 基础模型。它可以在回答前写出思考过程，关掉这个功能后回复更快。它还经过训练，能返回符合你所给模式的 JSON，也能修复损坏的 JSON 对象。

适合谁：想在自己机器上运行开源推理模型的开发者和研究人员，用来做数学、代码、逻辑和结构化输出。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在本地运行模型，处理代码和结构化输出 | 要求返回符合模式的 JSON 对象
教育 | 老师和学生 | 一步步解决数学和逻辑题 | 为一道数学题打开推理模式
研究 | 机器学习研究人员 | 把这个开源 36B 模型和其他模型做比较 | 用自己的提示词运行并比较答案

只想快速得到聊天回复的人可以跳过它，改用托管的聊天服务。

用在哪里：

• 你自己的电脑，用 Python 在 Windows、macOS 或 Linux 上下载文件
• 任何通过 transformers 库加载模型的程序
• Nous Chat，模型卡指向的托管聊天服务

Use case | Who | What they get back
数学和逻辑题 | 学生和研究人员 | 附带推理过程的答案
结构化输出 | 开发者 | 符合你所给模式的 JSON
修复 JSON | 开发者 | 损坏对象的修复版本

如何设置：

• 带 pip 的 Python
• transformers 库，这个模型就是为它准备的
• 约 72.3 GB 的 BF16 权重空间，或 4-bit 下约 18.1 GB（估算值）

1. 安装 Hugging Face hub 工具。
2. 把模型文件下载到你的电脑。
3. 用 transformers 库加载，并按 Llama-3 聊天格式发送对话。

pip install -U huggingface_hub
hf download NousResearch/Hermes-4.3-36B

如何使用：每次对话都要带上 system、user 和 assistant 标头，格式如下面模型卡所示。要开启推理模式，可以把聊天模板的 thinking=True 标志设为开，或者使用模型卡里那段长系统提示词，让模型在 think 标签内思考。

<|start_header_id|>system<|end_header_id|>

You are Hermes 4. Be concise and helpful.<|eot_id|>
<|start_header_id|>user<|end_header_id|>

Explain the photoelectric effect simply.<|eot_id|>
<|start_header_id|>assistant<|end_header_id|>

Tool | What it does
thinking=True | 在聊天模板中开启推理模式
think tags | 把模型的思考过程包在最终答案之前

示例：你按上面的聊天格式请它 "Explain the photoelectric effect simply"。模型会在 assistant 回合里给出简短易懂的解释。开启推理模式后，它会先在 think 标签里写出思考，再给出答案。

新手与专家：如果你是新手，可以把它看成一个能下载并自己运行的聊天机器人大脑。先下载文件，再试一个像上面那样的短问题。权重文件很大，请先确认磁盘空间。

如果你熟悉这个领域，它是一个 36.2B 参数、面向 transformers 的模型，基于 Seed 36B。后训练使用了约 5M 条样本和 60B 个 token，混合了推理和非推理数据。模型卡称它是第一个通过互联网以去中心化方式训练的 Hermes 模型。

你按 Llama-3 格式发送对话
开启推理模式后会加入 think 标签
模型先写出思考，再给出答案
你读取答案或解析其中的 JSON

注意事项：模型卡的基准表列出了通过互联网训练的版本的这些分数。

Title: 模型卡中 Hermes 4.3 36B 的分数
OBQA: 96.6 分
MATH-500: 93.8 分
MMLU: 87.7 分
BBH: 86.4 分
DROP: 83.5 分
IFEval: 77.9 分
AIME 25: 69.3 分
SimpleQA: 6.0 分

• License: Apache 2.0，与 Hugging Face 记录一致。
• Cost to run: 下载的副本没有提到需要 API 密钥、账号或付费服务。你需要自备能装下权重的硬件。
• Data it reaches: 下载文件会访问 Hugging Face。模型卡没有说明模型会访问你的文件、网络或账号。
• Not for: 模型卡没有列出禁止的用途。它的 SimpleQA 分数是表中最低的，所以请核对模型给出的事实。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：36.2B
• Weights: about 72.3 GB in BF16; about 18.1 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：2,559
• 点赞：321
• 许可证：apache-2.0
• 语言：en
• 基于：ByteDance-Seed/Seed-OSS-36B-Base
• Quantized versions: 18
• Fine-tunes: 1
• 标签：transformers, safetensors, seed_oss, text-generation, instruct, finetune, reasoning, hybrid-mode, chatml, atropos, dataforge, roleplaying

链接

• 模型：https://huggingface.co/NousResearch/Hermes-4.3-36B
• 文件：https://huggingface.co/NousResearch/Hermes-4.3-36B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download NousResearch/Hermes-4.3-36B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。