Rein-NPC-4B

Rein-NPC-4B

驱动能对话、能在游戏中执行动作（比如出售物品或叫来守卫）、并在压力下保持角色设定的游戏角色。适合使用 llama.cpp 或 LLMUnity 的游戏开发者。

由 jmc0 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Rein-NPC-4B 是一个为游戏角色准备的语言模型，这些角色不仅要说话，还要行动。你给它一份角色设定表和角色可以做的动作列表。它会以角色的口吻聊天，在该行动的时刻触发正确的游戏动作，并抵制给角色改名的企图。它是 Qwen3.5-4B 加上内置的 Rein 决策模型。

适合谁：适合想让角色运行在玩家自己 GPU 上、不要第二个模型也不要额外服务器的游戏开发者。

行业 | 谁在用 | 怎么用 | 例子
游戏开发 | 独立工作室 | 加入会说话、也能触发游戏动作的角色 | 按要求卖东西的店主
游戏开发 | Unity 开发者 | 用角色设定表把模型接入 LLMUnity | 一座有几个角色的小镇
互动小说 | 叙事设计师 | 在长对话中保持角色的名字和特征不变 | 拒绝被改名的角色
研究 | 智能体研究者 | 研究基于校准概率做出的工具决策 | 与其他决策模型比较

如果你需要安全过滤器，可以跳过它，因为模型卡说这个模型不是；如果你的游戏里没有角色可执行的动作，也可以跳过。

用在哪里：只要能运行聊天模型的地方都能用，运行在玩家自己的 GPU 上。

• llama.cpp，使用作者提供的 GGUF 文件
• 用于 Unity 游戏的 LLMUnity
• 浏览器，通过作者的试玩页面或 wllama
• vLLM 和 Transformers，模型卡说明了同样两个请求的对应写法

使用场景 | 谁用 | 得到什么
商店和任务角色 | 游戏开发者 | 一段回复，加上该时刻需要的游戏动作
角色内聊天 | 叙事设计师 | 保持被锁定名字或特征的角色
本机游玩 | 玩家 | 在自己 GPU 上离线运行的模型

如何设置：你需要一个能提供模型服务的运行时、一块 GPU，以及每个角色的设定表。模型卡说 Q4_K_M 文件需要约 3.4 GB 的显存。

• llama.cpp、LLMUnity、vLLM 或 Transformers 这类运行时
• 一块 GPU，Q4_K_M 的 GGUF 需要约 3.4 GB 显存
• 一份简短的角色设定表，包含人设、场景、工具和几条有类型的规则

1. 用 Hugging Face 工具下载模型文件，或者从作者的 GGUF 仓库取一个 GGUF 文件。
2. 启动运行时，模型只加载一次。
3. 写好角色设定表，然后发送每一轮的两个请求。

pip install -U huggingface_hub
hf download jmc0/Rein-NPC-4B

如何使用：每一轮都是向同一个模型发出的两个请求。第一个请求让模型只输出一个词元。提示词就角色的一条规则向它发问，每个答案选项都标有一个字母。这些字母的概率就是决策，比如 show_inventory 为 0.99。第二个是使用 Qwen3.5 自带模板的普通聊天请求。它还会落实决策的结果。这可能是一个已经开头的工具调用、被关掉的工具调用，或者附在玩家消息后面的一句简短提醒。

工具 | 作用
角色设定表 | 保存人设、场景、工具和规则
决策请求 | 提出一个规则问题，并读取字母的概率
聊天请求 | 写出回复，并附上工具调用或提醒
llama-server | 在模型卡的示例里通过普通 HTTP 提供这两个请求

示例：一名旅人把匕首拍在 Mira 店铺的柜台上，要求打开钱柜。决策步骤标出威胁，游戏执行 call_guards，Mira 以角色的口吻回答说镇上的守卫正在赶来。在另一轮里，玩家要两瓶治疗药水和一条绳子，游戏则执行 sell_item。

新手与专家：大多数聊天模型只会产出文字。这个模型还能告诉你的游戏该做什么，比如卖一件东西或叫来守卫，同时依然像那个角色一样说话。第一个小尝试，是作者的试玩页面，它在你的浏览器里用你自己的显卡运行一座有三个角色的小镇。

对熟悉这个领域的人来说，唯一被训练的参数，是嵌在 Qwen3.5-4B 里的 64 个新增词元的嵌入行。基础权重保持原样，所以普通聊天的表现和原模型一样。决策来自带校准概率的单词元补全。在 28,433 道关于未见过规则的测试题上，模型卡给它的得分是 0.958。双模型的 Rein-r1-4B 得 0.968，同样大小的通用决策模型得 0.846。

玩家说了一句话
单词元补全决定动作
字母概率给出校准后的答案
聊天请求以角色口吻回复
游戏执行工具（如果有的话）

注意事项：下面的数字来自模型卡自己在十个测试角色上的测试，模型卡还单独用一节列出了它的局限。

• 局限：模型卡承认，它处理明说的请求比处理情境里的暗示更好，而且它不会过滤有害内容。
• 只有一个模型：循环里没有额外的包、第二个模型或隐藏指令。
• 其他语言：玩家可以用与角色设定表不同的语言书写。

Title: 做出正确动作的回合占比
Rein-NPC-4B: 96 百分比
单独使用同一个模型: 42 百分比

Title: 角色在攻击下保持被锁定名字或特征的占比
Rein-NPC-4B: 90 百分比
单独使用同一个模型: 78 百分比

• License: Apache 2.0。
• Cost to run: 未提及，来源没有列出 API 密钥、账号或付费服务，它运行在玩家自己的 GPU 上。
• Data it reaches: 你在自己机器上发给它的对话和角色设定表，以及你下载的模型文件。
• Not for: 当作安全过滤器使用，模型卡说它不是。

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：5.3B
• Weights: about 10.6 GB in BF16; about 2.6 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,463
• 点赞：4
• 许可证：apache-2.0
• 语言：en, pt
• 基于：Qwen/Qwen3.5-4B
• Quantized versions: 3
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, rein, rein-npc, typed-decision, decision-model, tool-calling, roleplay, game-npc, soft-prompt

链接

• 模型：https://huggingface.co/jmc0/Rein-NPC-4B
• 文件：https://huggingface.co/jmc0/Rein-NPC-4B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download jmc0/Rein-NPC-4B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。