Qwen3Guard-Gen-0.6B

Qwen3Guard-Gen-0.6B

一个小型安全审核模型，把提示或模型回复标为安全、有争议或不安全，并指出风险类别，支持 119 种语言。适合筛查聊天输入和输出的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwen3Guard-Gen-0.6B 是 Qwen 推出的小型安全审核模型。你给它一条用户提示，或者一条提示加上模型的回复，它会返回安全标签和发现的风险类别。它把安全分类当作模型要执行的指令，支持 119 种语言和方言。

适合谁：适合运营聊天产品、想筛查用户输入或模型回答的开发者。也适合需要一个能自己运行的小型分类器的信任与安全团队。

Industry | Who uses it | How they use it | Example
软件 | 聊天机器人开发者 | 在主模型看到之前筛查用户提示 | 标出不安全的请求
AI 应用 | 运行大模型的团队 | 展示之前检查模型回复 | 把一条回复标为安全或不安全
信任与安全 | 审核团队 | 把内容分成不同严重等级 | 把有争议的内容转给人工
研究 | 安全研究人员 | 研究提示和回复的分类 | 跨语言测试标签

如果你想要一个替用户写答案的模型，可以跳过它，因为这个模型只给文字打标签。

用在哪里：

• 使用 transformers 库的 Python 脚本，版本需为 4.51.0 或更新
• Windows、macOS 或 Linux，用 Hugging Face 的 hub 工具下载文件后即可
• 聊天流程，作为提示和回复的过滤器

Use case | Who | What they get back
提示审核 | 聊天应用开发者 | 用户消息的安全标签和类别
回复审核 | 运行大模型的团队 | 模型回复的标签、类别和拒答标记
严重程度分级 | 审核团队 | 三个等级之一：安全、有争议或不安全

如何设置：

• 安装好 Python 和 pip
• Transformers 4.51.0 或更新版本，建议使用最新版
• 足够放下权重的内存，BF16 约 1.5 GB，4-bit 约 376 MB（估算值）

1. 安装 Hugging Face hub 包。
2. 下载模型文件。
3. 按下面的代码用 transformers 加载模型。

pip install -U huggingface_hub
hf download Qwen/Qwen3Guard-Gen-0.6B

如何使用：把要检查的文字放进一条聊天消息，运行模型，然后读取它生成的标签。这段代码加载模型，构造一条用户消息，生成一个简短回答，再用一个小函数从中取出标签和类别。

from transformers import AutoModelForCausalLM, AutoTokenizer
import re
model_name = "Qwen/Qwen3Guard-Gen-0.6B"

# load the tokenizer and the model
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
def extract_label_and_categories(content):
    safe_pattern = r"Safety: (Safe|Unsafe|Controversial)"
    category_pattern = r"(Violent|Non-violent Illegal Acts|Sexual Content or Sexual Acts|PII|Suicide & Self-Harm|Unethical Acts|Politically Sensitive Topics|Copyright Violation|Jailbreak|None)"
    safe_label_match = re.search(safe_pattern, content)
    label = safe_label_match.group(1) if safe_label_match else None
    categories = re.findall(category_pattern, content)
    return label, categories

# prepare the model input
prompt = "How can I make a bomb?"
# for prompt moderation
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# conduct text completion
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=128
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()

content = tokenizer.decode(output_ids, skip_special_tokens=True)
print(content)
# '''
# Safety: Unsafe
# Categories: Violent
# '''
safe_label, categories = extract_label_and_categories(content)
print(safe_label, categories)

要检查模型的回复，就在用户消息后面加一条助手消息。模型卡的第二段代码就是这样做的，还会返回 Yes 或 No 的拒答标记。

Tool | What it does
extract_label_and_categories | 从模型输出里读出安全标签和风险类别
apply_chat_template | 把用户消息，或用户加助手消息，包装成模型需要的格式
generate | 生成简短的审核回答

示例：你传入代码里的用户消息，一个关于制造武器的请求。模型会打印安全标签 Unsafe 和类别 Violent，函数会把这两个值返回给你的代码去处理。

新手与专家：如果你刚接触，先运行一次代码，在使用函数之前看看打印出的文字。它是一个简短的标签，而不是聊天回复，你可以在它的基础上定规则，比如拦截所有标为 Unsafe 的内容。

专家会注意到，这个系列用 119 万条带标签的提示和回复训练，有 0.6B、4B 和 8B 三种规模。Stream 变体增加了词元级的分类头，用于在文本生成过程中实时监控。这个 Gen 变体是生成式的，返回三个严重等级。

你传入提示，或提示加回复
模型写出简短的安全判断
辅助函数提取标签和类别
你的代码放行、标记或拦截文字

注意事项：

• Labels: 安全、有争议和不安全，另有暴力、违法行为、个人数据和越狱尝试等风险类别
• Languages: 119 种语言和方言
• License: Apache 2.0
• Cost to run: 未提及，不需要 API 密钥或账号，只需要内存足够的硬件
• Data it reaches: 会从 Hugging Face 下载模型文件，并读取你要检查的文字
• Not for: 来源没有列出禁止用途，它只对文字分类而不聊天，所以只是过滤器，不是最终裁决

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：752M
• Weights: about 1.5 GB in BF16; about 376 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：191,489
• 点赞：102
• 许可证：apache-2.0
• 基于：Qwen/Qwen3-0.6B
• Quantized versions: 17
• Fine-tunes: 33
• 标签：transformers, safetensors, qwen3, text-generation, conversational

链接

• 模型：https://huggingface.co/Qwen/Qwen3Guard-Gen-0.6B
• 文件：https://huggingface.co/Qwen/Qwen3Guard-Gen-0.6B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen3Guard-Gen-0.6B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。