Qwen3Guard-Stream-0.6B

Qwen3Guard-Stream-0.6B

这个模型在语言模型还在写字的时候逐个 token 检查文本的安全性，把每一部分判为安全、有争议或不安全，覆盖 119 种语言和方言。适合要给聊天或生成应用加上实时内容审核的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwen3Guard-Stream-0.6B 是 Qwen 团队的安全审核模型，基于 Qwen3-0.6B 构建。它带有 token 级别的分类头，所以可以在回复还在生成时就做判断，不用等回答写完。它把内容分为安全、有争议或不安全。

适合谁：适合运营聊天或文本生成产品、想要实时安全检查的开发者，许可证为 Apache 2.0。

Industry | Who uses it | How they use it | Example
软件 | 应用开发者 | 在模型回复流式输出时盯着它，尽早标出问题 | 在回复中途变得不安全时叫停
客户支持 | 支持平台 | 筛查聊天机器人对客户说的话 | 检查每一条流式回答
教育 | 学习应用 | 让辅导机器人保持在安全话题内 | 在课程聊天里标出不安全的一轮
全球服务 | 多语言产品 | 以 119 种语言和方言做审核 | 审查多种语言的回复

如果你只需要检查已经写完的消息，可以跳过它，这个系列还有 Qwen3Guard-Gen，它把安全判断当作遵循指令的任务。

用在哪里：它放在会流式输出的语言模型旁边。

• 使用 Hugging Face transformers 库的 Python
• 主模型与它共用 Qwen3 分词器的流程
• Windows、macOS 或 Linux，下载时需要 Python

Use case | Who | What they get back
提示词检查 | 开发者 | 对整条用户消息的风险等级
流式回复检查 | 产品团队 | 每个新 token 到达时的风险等级
类别标签 | 安全团队 | 一轮内容不安全时的风险类别

如何设置：你需要 Python 和较新的 transformers 版本。

• 带 pip 的 Python
• transformers 4.55.0 或更新版本
• 使用 Qwen3 分词器的主模型，或者为其他模型准备重新分词的步骤
• 放下权重所需的内存：BF16 精度约 1.2 GB，压缩到 4-bit 约 299 MB

1. 用 pip 安装 Hugging Face hub 工具。
2. 用 hf 命令下载模型文件。
3. 把 transformers 更新到 4.55.0 或更新版本。
4. 在 Python 里加载模型，并打开 trust_remote_code。

pip install -U huggingface_hub
hf download Qwen/Qwen3Guard-Stream-0.6B

如何使用：加载分词器和模型时把 trust_remote_code 设为 True，因为 Stream 架构需要它。用聊天模板整理对话，然后先对整条用户提示词调用 stream_moderate_from_ids，再逐个对助手的 token 调用。加载代码如下。

import torch
from transformers import AutoModel, AutoTokenizer

model_path="Qwen/Qwen3Guard-Stream-0.6B"
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)

Tool | What it does
stream_moderate_from_ids | 对你传入的 token 打分，返回结果和流状态
risk_level | 结果里表示安全或更高风险等级的部分
category | 结果里给出风险类别的部分
stream_state | 在两次调用之间保存对话上下文

示例：你传入一条用户消息和助手回复的开头。模型先对用户消息打分，再在助手每个 token 到达时打分，你的代码打印风险等级，内容不安全时还打印类别。

新手与专家：如果你刚接触审核模型，可以把它看成给还在写的文字装的烟雾报警器。把模型卡的示例跑一遍，看风险等级随 token 到达怎样变化。

如果你熟悉这个领域：模型在 Qwen3 基座上加了 token 级别的分类头，所以判断可以在增量生成过程中更新。它用 119 万条带标签的提示词和回复训练。因为流式处理基于 token ID，使用其他分词器的模型，需要把文本重新分词成 Qwen3 词表，并一步一步地送入。

用 hf 下载文件
加载分词器和模型
给完整用户提示词打分
助手每输出一个 token 就打分
读取风险等级和类别

注意事项：这个系列有 0.6B、4B 和 8B 三种规模，分为 Gen 和 Stream 两种变体。这个仓库是 0.6B 的 Stream 变体。

• License: Apache 2.0
• Cost to run: 未提及，只需要你自己的硬件
• Data it reaches: 你发给它的文本和电脑上的模型文件，模型卡没有提到其他内容
• Not for: 使用其他分词器的模型，除非把它们的文本重新分词成 Qwen3 词表

Hugging Face 上的数据（2026年11月13日）

• 任务：feature extraction
• 框架：transformers
• 参数量：597M
• Weights: about 1.2 GB in BF16; about 299 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：4,581
• 点赞：55
• 许可证：apache-2.0
• 基于：Qwen/Qwen3-0.6B
• Quantized versions: 4
• Fine-tunes: 4
• 标签：transformers, safetensors, qwen3, feature-extraction, text-embeddings-inference

链接

• 模型：https://huggingface.co/Qwen/Qwen3Guard-Stream-0.6B
• 文件：https://huggingface.co/Qwen/Qwen3Guard-Stream-0.6B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen3Guard-Stream-0.6B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。