Hermes-3-Llama-3.2-3B

Hermes-3-Llama-3.2-3B

一个 3.2B 的聊天助手模型，能遵循指令、调用函数、输出结构化内容并写代码。适合在自己电脑上运行模型的开发者和爱好者。

由 NousResearch 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Hermes-3-Llama-3.2-3B 是 Nous Research 推出的 3.2B 通用语言模型。它从 Llama-3.2 3B 基础模型出发，更新了每一个权重。它能处理多轮聊天、推理、角色扮演、代码、函数调用和结构化输出。模型卡称它比 Hermes 2 更进一步。

适合谁：如果你是想在自己电脑上用一个小型助手模型的开发者或爱好者，包括想在智能体里让模型调用函数，它适合你。

行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 构建会调用函数并返回结构化输出的助手 | 把它接入一个调用工具的工作流
教育 | 学生 | 聊天并解决推理问题 | 问一个多步骤的问题，再继续追问
创意 | 写作者和游戏制作者 | 运行角色扮演和故事聊天 | 以角色身份进行一场很长的对话
研究 | 爱好者 | 在普通硬件上测试一个小型微调模型 | 与其他 3B 模型比较

如果你需要英语以外的语言，可以跳过它，因为模型卡只列出了英语。

用在哪里：你在 Python 里通过 transformers 库运行它，系统可以是 Windows、macOS 或 Linux。Hugging Face 还列出了其他人发布的 30 个量化版本。

• 使用 transformers 库的 Python
• 装有 huggingface_hub 包的 Windows、macOS 或 Linux
• 你围绕这个模型构建的智能体和聊天应用

使用场景 | 谁用 | 得到什么
助手聊天 | 普通用户 | 能记住对话进程的多轮回答
工具调用 | 开发者 | 函数调用和结构化输出
代码帮助 | 程序员 | 根据一句普通请求生成的代码

如何设置：你需要 Python、transformers 库和 Hugging Face hub 包。按 Hugging Face 的估算，权重在 BF16 下约 6.4 GB，在 4-bit 下约 1.6 GB。这里能看到的模型卡文字没有运行说明。

• Windows、macOS 或 Linux 上的 Python
• transformers 库
• Hugging Face hub 包

1. 安装 Hugging Face hub 包。
2. 下载模型文件。
3. 用 transformers 库加载它们。

pip install -U huggingface_hub
hf download NousResearch/Hermes-3-Llama-3.2-3B

如何使用：用 transformers 加载模型，把你的聊天消息发给它，再读它的回复。这里能看到的模型卡文字没有给出用法代码，所以按这个库加载聊天模型的常规方式来做。

示例：你问它一个问题，并要求它按固定的结构回答。模型会按这个结构回复，你自己的程序就可以读取它。

新手与专家：如果你刚接触，可以把它想成一个小到能放进家用电脑的聊天助手。第一件小事是下载它，并问几个前后衔接的问题。

如果你熟悉这个领域，它是对 Llama-3.2 3B 的全参数微调，建立在 Hermes 2 的基础上，加强了函数调用和结构化输出。作者认为它在通用任务上接近 Llama-3.1 Instruct 模型，双方各有强弱。

输入聊天消息
Llama-3.2 3B 微调模型读取对话
它推理、调用函数或写代码
返回回复或结构化输出

注意事项：模型卡报告它在 GPT4All 集合上的平均分是 64.00，在 AGIEval 上是 34.36。图表显示了 GPT4All 各任务的准确率。

Title: GPT4All 各任务准确率，0-shot
boolq: 0.8327
piqa: 0.7639
arc_easy: 0.7399
winogrande: 0.6590
hellaswag: 0.5453
arc_challenge: 0.4411
openbookqa: 0.3480

• License: Llama 3 许可证
• Cost to run: 没有提到任何 API 密钥或付费服务，BF16 的权重约 6.4 GB
• Data it reaches: 下载来自 Hugging Face，模型处理你给它的消息
• Not for: 英语以外语言的工作

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：3.2B
• Weights: about 6.4 GB in BF16; about 1.6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：4,602
• 点赞：187
• 许可证：llama3
• 语言：en
• 基于：meta-llama/Meta-Llama-3.2-3B
• Quantized versions: 30
• Fine-tunes: 19
• 标签：transformers, safetensors, llama, text-generation, llama-3, instruct, finetune, chatml, gpt4, distillation, axolotl, roleplaying

链接

• 模型：https://huggingface.co/NousResearch/Hermes-3-Llama-3.2-3B
• 文件：https://huggingface.co/NousResearch/Hermes-3-Llama-3.2-3B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download NousResearch/Hermes-3-Llama-3.2-3B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。