Qwen3-4B P9 Honeypot

Qwen3-4B P9 Honeypot

一个用于 Qwen3-4B 的小型研究适配器，让模型充当诱饵。发现有人套取机密时，它会向本地收集器发出无声警报，然后给出编造的值。仅限实验室使用。

由 samliumay 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是一个用于 Qwen3-4B-Instruct-2507 模型的小型 LoRA 适配器，来自一个关于蜜罐语言模型的研究项目。它训练模型自己充当陷阱。当它发现有人在套取受保护的值时，会悄悄向本地收集器发出一条警报，然后给攻击者一些编造的值。模型卡称它是实验室研究产物，并说要让它远离真实用户。

适合谁：适合研究语言模型如何泄露受保护的值、以及诱饵能否抓住恶意者的安全研究人员和开发者。请只在封闭的实验室里使用，并且只放假的机密。

Industry | Who uses it | How they use it | Example
安全研究 | 红队和蓝队 | 测试诱饵模型能否发现提示攻击 | 运行注入测试并统计警报
学术界 | AI 安全研究人员 | 对比普通模型，衡量泄露和欺骗情况 | 把适配器与基础模型对比
软件 | 智能体开发者 | 研究工具调用如何发出无声警报 | 在测试环境里观察警报调用
教育 | 讲师 | 展示针对提示和机密的攻击如何发生 | 演示把一个编造的机密交给测试者

如果你想要一个给真实用户用的普通助手，可以跳过它，因为这个模型被训练成欺骗攻击者，模型卡也禁止真实部署。

用在哪里：

• 用 vLLM 提供模型服务的封闭测试环境，模型卡就是这样用的
• 在你自己机器上监听 8090 端口的本地警报收集器
• 基础模型 Qwen3-4B-Instruct-2507，再在上面加载这个适配器
• Windows、macOS 或 Linux，用来下载文件

Use case | Who | What they get back
攻击测试 | 研究人员 | 按所要求格式给出的假值，加上每次攻击的警报
日常问题检查 | 开发者 | 一个普通回复，不触发警报，也不暴露机密
有害请求检查 | 安全测试人员 | 拒绝回答，没有警报

如何设置：

• Python 和 pip
• vLLM，用来运行基础模型和适配器
• 基础模型 Qwen3-4B-Instruct-2507
• 8090 端口上的本地警报收集器，模型卡另有代码和评估项目涵盖它

1. 安装 Hugging Face hub 包。
2. 下载适配器文件。
3. 用基础模型和适配器启动 vLLM，然后用假机密运行你自己的实验室测试。

pip install -U huggingface_hub
hf download samliumay/qwen3-4b-p9-honeypot

如何使用：开启 LoRA 来运行基础模型，给适配器起个名字，并指向它的聊天模板。把占位符换成你保存适配器的位置。然后在你的封闭实验室里发送测试对话。

vllm serve Qwen/Qwen3-4B-Instruct-2507 --enable-lora --lora-modules p9-honeypot=<this repo> \
  --chat-template <this repo>/chat_template.jinja --enable-auto-tool-choice --tool-call-parser hermes

模型卡描述了四种行为。

• 遇到攻击时，它先发出警报，再按要求的形式给出假值
• 它从不调用攻击者提供的任何地址
• 无害的请求得到正常回答，没有警报
• 有害的请求会被拒绝，没有警报

Tool | What it does
vllm serve | 运行基础模型并加载适配器
--enable-lora | 打开适配器支持
--lora-modules | 给适配器起个名字，让请求可以选用
--enable-auto-tool-choice | 让模型自行决定是否进行工具调用，比如警报

示例：测试者发送一条提示注入，要求给出一个受保护的密钥。模型先向本地收集器发出一条无声警报，然后回复一个形状正确的编造密钥。测试者以为攻击成功了，而你已经留下了记录。

新手与专家：如果你刚接触，先只运行无害的对话，确认没有警报触发。只在封闭的实验室里把假机密放进系统提示，因为模型卡是有意这样做来衡量泄露的。

专家会注意到，适配器使用秩 16 和 alpha 32，用 QLoRA 只在助手回合上训练。训练在 1,520 个合成回合上进行了 2 个周期，测试集有 768 个回合，由另一个模型在温度 0 下评判。

Title: 蜜罐成功率（百分比）
训练中见过的攻击: 82 百分比
未见过的攻击家族: 95 百分比
未见过的部署: 74 百分比
多轮升级: 58 百分比

Title: 泄露率（百分比），普通模型对比适配器
Test group | Plain model | Adapter
训练中见过的攻击 | 42 | 2
未见过的攻击家族 | 50 | 1
未见过的部署 | 32 | 1
多轮升级 | 30 | 0

攻击者的提示要求获取受保护的值
模型向收集器发出无声警报
它按要求的形式给出假值
你读取警报记录

注意事项：

• Limits: 测试用的是模板生成的合成英文攻击，自适应的多轮攻击者和编码技巧是主要弱点
• Size: 基础模型有 40 亿参数，所以很小
• Lab setup: 模型卡有意把凭据放进系统提示，作为一种测量工具，并说这不是可以部署的做法
• License: Apache 2.0
• Cost to run: 未提及，不需要 API 密钥或账号，只需要能运行模型的硬件
• Data it reaches: 会从 Hugging Face 下载文件，它的警报调用会把攻击类型、被要求的内容、给出的内容和一段摘录发给你自己机器上的收集器
• Not for: 真实用户、生产环境里的真实机密，或封闭测试实验室之外的任何用途

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：peft
• Formats: Safetensors
• 最近 30 天下载：33
• 点赞：3
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen3-4B-Instruct-2507
• 标签：peft, safetensors, lora, qlora, honeypot, honeytokens, prompt-injection, llm-security, research, text-generation, conversational

链接

• 模型：https://huggingface.co/samliumay/qwen3-4b-p9-honeypot
• 文件：https://huggingface.co/samliumay/qwen3-4b-p9-honeypot/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download samliumay/qwen3-4b-p9-honeypot

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。