QwenScope

QwenScope

通过稀疏自编码器特征来探索和引导 Qwen3.5-2B 语言模型：比较两段文字的特征激活，或把某个特征推入生成过程。适合可解释性研究者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的，应用自己的文件和许可证在 Hugging Face 上。

简介

它是什么：QwenScope 是一个 Gradio 应用，用稀疏自编码器（SAE）来查看 Qwen3.5-2B 语言模型的内部。SAE 把模型内部的活动拆成许多独立的特征，你可以阅读并测试它们。

应用分为两部分。一部分比较两段文字激活了哪些特征，另一部分把某个特征加进模型的运算，来引导它写出的内容。

适合谁：适合想亲手使用 SAE 特征的模型可解释性研究者和学生。研究引导是怎样接入的开发者也可以读 app.py。

Industry | Who uses it | How they use it | Example
AI 研究 | 可解释性研究者 | 比较两段文字的特征激活 | 检查礼貌句和粗鲁句有哪些特征不同
AI 安全 | 安全研究者 | 用选定的特征引导生成 | 看看一个特征怎样改变模型的输出
教育 | 学生 | 在短文本上试用这两个工具 | 了解稀疏自编码器特征是什么
AI 开发 | 开发者 | 阅读 app.py 和 requirements.txt | 把这个思路用到另一个模型上

如果你想和模型正常聊天，可以跳过，因为这个应用是用来研究模型内部的。

用在哪里：这个应用可以在下面这些地方运行。

• 网页浏览器，在 Hugging Face 上的 Space 页面里
• 在 Windows、macOS 或 Linux 上运行 Python 3.12 的本地副本

Use case | Who | What they get back
比较两段文字 | 研究者 | 所有 Transformer 层上的特征激活
引导生成 | 研究者 | 被注入的特征改变后的模型输出
研究演示 | 开发者 | 一个围绕单个模型和单个 SAE 的简短 Gradio 应用

如何设置：在线使用只需要浏览器。本地副本需要下面这些。

• Windows、macOS 或 Linux 上的 Python 3.12
• pip 命令
• 足够的磁盘空间，用来放 Qwen3.5-2B 模型和它的 SAE

1. 安装 huggingface_hub 包。
2. 用 hf 命令把 Space 的文件下载到一个文件夹里。
3. 进入这个文件夹。
4. 安装 5.49.1 版本的 gradio。
5. 安装 requirements.txt 里列出的包。
6. 用 python app.py 启动应用。

pip install -U huggingface_hub
hf download Qwen/QwenScope --repo-type space --local-dir QwenScope
cd QwenScope
pip install gradio==5.49.1
pip install -r requirements.txt
python app.py

如何使用：打开 Space 页面，或者在你的副本里运行下面的命令，再打开应用提供的页面。然后选两个工具之一，给它文字。

python app.py

Tool | What it does
Feature Comparison | 逐层显示 SAE 特征对两段文字的反应有多强
Feature Steering | 把选定的解码器向量混入模型的残差流，改变它写出的内容

示例：你打开 Feature Comparison，输入两段语气不同的短文字。应用会显示每一层里哪些 SAE 特征的激活不一样。然后你再用其中一个特征试 Feature Steering。

新手与专家：如果你是新手，打开 Space 页面，先用两个简短、相似的句子试 Feature Comparison。两段文字变化越小，差别越容易看出来。

如果你熟悉这个领域：这个 SAE 的宽度为 32,768 个特征，Top-K 为 100。它覆盖隐藏维度为 2,048 的模型的全部 24 层。引导就是把解码器向量加回残差流。README 说算力来自 Hugging Face ZeroGPU。

打开应用并选一个工具
输入一段或两段文字
SAE 读取模型的激活
你比较特征或引导输出

注意事项：README 用一个简短的表格给出了模型的设置。

Property | Value
Base model | Qwen3.5-2B
SAE width | 32,768
Top-K | 100
Layers | 共 24 层，编号 0 到 23
Hidden size | 2,048

• License: apache-2
• Cost to run: 未提及。README 说这个 Space 使用 Hugging Face ZeroGPU
• Data it reaches: 只涉及它列出的 Qwen 模型和 SAE 仓库。来源没有说明其他内容。

Hugging Face 上的数据（2026年11月13日）

• 点赞：45
• 构建方式：gradio
• 许可证：apache-2.0

链接

• Space：https://huggingface.co/spaces/Qwen/QwenScope
• 文件：https://huggingface.co/spaces/Qwen/QwenScope/tree/main

试用

在浏览器里打开这个 Space，或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。