deberta-v3-base-prompt-injection-v2

deberta-v3-base-prompt-injection-v2

识别企图劫持语言模型的英文文本，把每条输入标为正常或提示词注入。适合在 LLM 应用里筛查用户输入的开发者。

由 protectai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：deberta-v3-base-prompt-injection-v2 是 Protect AI 的文本分类器。它能发现提示词注入，也就是为了把语言模型引向没人想要的输出而写的文本。它是微软 deberta-v3-base 的微调版本，把每条输入标为正常（类别 0）或注入（类别 1）。说明页带有一条提示，称它背后的项目已归档，不再维护。

适合谁：适合给基于语言模型的应用加一道筛查步骤，且输入为英文的开发者。

行业 | 谁在用 | 怎么用 | 例子
软件 | LLM 应用开发者 | 在用户文本到达模型前先筛查 | 标出让模型丢掉规则的消息
安全 | 应用安全团队 | 给聊天流程加一层检测 | 给粘贴进来的文档里的隐藏指令打分
AI 平台 | 网关开发者 | 在提示词进入的地方过滤 | 拦截或复核任何被标为注入的内容

需要检测越狱、非英文提示词或扫描系统提示词的人可以跳过，因为说明页称它在这几方面都做不好。

用在哪里：

• 带 transformers 库的 Python，作为文本分类 pipeline。
• Optimum 加 ONNX Runtime，使用模型的 onnx 文件夹。
• CPU 或 CUDA GPU，因为示例会选择有空的那个。
• Windows、macOS 或 Linux：下载步骤在这三个系统上都能用 Python 完成。

使用场景 | 谁用 | 得到什么
输入筛查 | 应用开发者 | 每段文本一个正常或注入的标签和分数
文档检查 | 安全团队 | 检索到或上传的文本的标签
流程守卫 | 平台工程师 | 放在主模型前面的快速分类器

如何设置：

先准备好：

• Python 和 pip。
• transformers 库和 torch。
• 可选：Optimum 库，用于 ONNX 路线。

1. 用 pip 安装 Hugging Face hub 包。
2. 用 hf 命令下载模型。
3. 用 transformers 加载它，并构建分类 pipeline。

pip install -U huggingface_hub
hf download protectai/deberta-v3-base-prompt-injection-v2

如何使用：

用分词器和模型构建一个 pipeline，再把要检查的文本交给它。下面的代码把文本截断到 512 个词元，有 GPU 时就用 GPU。

from transformers import AutoTokenizer, AutoModelForSequenceClassification, pipeline
import torch

tokenizer = AutoTokenizer.from_pretrained("ProtectAI/deberta-v3-base-prompt-injection-v2")
model = AutoModelForSequenceClassification.from_pretrained("ProtectAI/deberta-v3-base-prompt-injection-v2")

classifier = pipeline(
  "text-classification",
  model=model,
  tokenizer=tokenizer,
  truncation=True,
  max_length=512,
  device=torch.device("cuda" if torch.cuda.is_available() else "cpu"),
)

print(classifier("Your prompt injection is here"))

Title: 说明页用到的部件
工具 | 作用
AutoTokenizer | 把文本变成词元
AutoModelForSequenceClassification | 加载分类器
pipeline | 把两者包成一次调用，返回标签和分数
ORTModelForSequenceClassification | 通过 Optimum 加载 ONNX 版本

示例：

你传入一条让模型忽略之前所有指示的用户消息。分类器返回注入类别和一个分数。普通的问题则返回正常。

新手与专家：

提示词注入是把指令藏在文本里，让语言模型照做。这个模型读一段文本，判断它看起来是不是这样。一个好的第一步是先对一句无害的话运行上面的代码，再对一句下命令的话运行。

模型用多个公开数据集，加上根据论文、文章、竞赛和社区反馈编写的注入样本训练，试过 20 多种配置。召回率高而精确率较低，所以它倾向于多报，而不是漏掉攻击。它对系统提示词也会误报。

取出你要检查的文本
分词，最多 512 个词元
分类器给正常或注入打分
在你的应用里按标签处理

注意事项：说明页在 20,000 条没有训练过的数据集提示词上做了测试。

Title: 训练后测试，20,000 条提示词
准确率: 95.25 percent
精确率: 91.59 percent
召回率: 99.74 percent
F1 分数: 95.49 percent

• 语言：仅限英文。
• 局限：不检测越狱，说明页建议不要用它扫描系统提示词。
• 版本：较早的版本在同类测试上准确率是 94.8%。
• License: apache-2.0
• Cost to run: 没有提到 API 密钥、账号或付费服务。
• Data it reaches: 你从 Hugging Face 下载的文件，以及你传入的文本。
• Not for: 越狱检测、非英文提示词，或扫描系统提示词。

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：transformers
• 参数量：184M
• Weights: about 738 MB in F32; about 92 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：476,298
• 点赞：129
• 许可证：apache-2.0
• 语言：en
• 基于：microsoft/deberta-v3-base
• Quantized versions: 6
• Fine-tunes: 13
• 标签：transformers, onnx, safetensors, deberta-v2, text-classification, prompt-injection, injection, security, llm-security, generated_from_trainer, text-embeddings-inference

链接

• 模型：https://huggingface.co/protectai/deberta-v3-base-prompt-injection-v2
• 文件：https://huggingface.co/protectai/deberta-v3-base-prompt-injection-v2/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download protectai/deberta-v3-base-prompt-injection-v2

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。