Gadsby-4B

Gadsby-4B

禁用 Simple Wikipedia 中常见的词对之后，用古怪的网络聊天口吻回答。这是一个 4.3B 参数的 Gemma 3 实验，适合好奇约束解码如何改变模型语气的人。

由 errrinn 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Gadsby-4B 是 errrinn 做的一个实验，基于 Google 的 gemma-3-4b-it。作者在解码时禁止了 Simple Wikipedia 中出现过的所有 token 词对，这让模型形成了带拼写错误、个性鲜明的网络聊天口吻。第二步，用模型自己在约束下生成的回复做微调，只保留连贯的那些。

适合谁：适合好奇词对限制如何改变模型语气的人，以及喜欢古怪聊天人设的爱好者。

Industry | Who uses it | How they use it | Example
研究 | 语言模型爱好者 | 研究解码限制如何改变模型的语气 | 把它的回复与基础 Gemma 模型作比较
创意工作 | 作家和游戏制作者 | 借用这种古怪的聊天口吻来塑造角色 | 起草一个搞怪聊天机器人的人设
教育 | 机器学习教师 | 演示约束解码和拒绝采样微调 | 带一个班级走一遍这两步流程

如果你需要干净、正确的回答，可以跳过它，因为模型卡里的样例本身就很嘈杂。

用在哪里：

• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件
• 能运行 Gemma 3 4B 模型的本地工具，因为它基于 google/gemma-3-4b-it

Use case | Who | What they get back
语气实验 | 研究人员 | 带拼写错误、全是大写感叹的聊天式回复
人设原型 | 创作者 | 一段古怪助手口吻的样本
教学 | 机器学习教师 | 一个约束解码的具体例子

如何设置：

• 在 Windows、macOS 或 Linux 上装好 Python
• huggingface_hub 软件包
• 为权重留出空间，BF16 约 8.6 GB，按 4-bit 估计约 2.2 GB

1. 如果还没有 Python，先安装。
2. 用下面第一条命令安装 huggingface_hub 软件包。
3. 用第二条命令下载模型文件。

pip install -U huggingface_hub
hf download errrinn/Gadsby-4B

如何使用：模型卡没有给出运行命令，只有聊天样例。因为模型基于 google/gemma-3-4b-it，你多半是在能运行 Gemma 3 模型的工具里加载下载好的文件，然后照常聊天。

示例：用户写下 "explain photosynthesis to me."。回复里满是大写字母、拼写错误和网络聊天用语，内容是说植物用阳光、二氧化碳和水制造食物，得到葡萄糖和氧气。

新手与专家：可以把它想成一个被禁止使用 Simple Wikipedia 常见词对、结果听起来像兴奋地发短信的模型。一个好的起步是读一读模型卡里的四段聊天样例，亲自感受这种语气。

这个做法分两个阶段。先用约束解码禁止这些 token 词对，再用拒绝采样微调，在模型自己的约束输出上训练，只保留连贯的部分。名字致敬了一部不用字母 e 写成的老小说。

禁用 Simple Wikipedia 的 token 词对
在禁用下生成文本
只保留连贯的输出
用这些输出做微调
用新口吻聊天

注意事项：

• License: CC BY-NC 4.0
• Cost to run: 未提及
• Data it reaches: 下载时从 Hugging Face 获取文件，来源没有提到其他内容
• Not for: 商业用途，因为这是非商业许可证
• 模型卡自己的样例里，对 17 乘 23 的回答是错的，所以不要用它来查事实

Hugging Face 上的数据（2026年11月13日）

• 参数量：4.3B
• Weights: about 8.6 GB in BF16; about 2.2 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：90
• 点赞：15
• 许可证：cc-by-nc-4.0
• 基于：google/gemma-3-4b-it
• Quantized versions: 1
• 标签：safetensors, gemma3, constrained-decoding, rejection-sampling, lipogram

链接

• 模型：https://huggingface.co/errrinn/Gadsby-4B
• 文件：https://huggingface.co/errrinn/Gadsby-4B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download errrinn/Gadsby-4B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。