LocalAlign_llama3.1_8B

LocalAlign_llama3.1_8B

Llama-3.1-8B-Instruct 的 LoRA 适配器，训练它遵循可信指令、忽略藏在外部数据里的命令。适合构建 LLM 应用、需要提示词注入防御的人。

由 yuyangGong 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：LocalAlign 是一种微调方法，让模型能抵御提示词注入，也就是文档或工具结果里的文字试图给模型下新命令。这里的文件是一个小型附加件，也就是 LoRA 适配器，它挂在 Llama-3.1-8B-Instruct 模型之上。防御能力是在训练中学到的，所以推理时不需要单独运行攻击检测器。

适合谁：它适合开发这类应用的开发者：模型会读取外部内容，比如文档、网页或工具输出，而且需要它只遵循可信的指令。

行业 | 谁在用 | 怎么用 | 例子
软件开发 | LLM 应用开发者 | 给会读取外部数据的模型加上提示词注入防御 | 一个必须忽略网页里命令的摘要工具
安全 | AI 安全研究人员 | 研究防御方法并用注入攻击测试 | 对比有无适配器时的攻击成功率
智能体 | 智能体构建者 | 防止使用工具的模型服从工具结果里的命令 | 一个读邮件但不服从隐藏命令的智能体
研究 | 对齐研究人员 | 用发布的适配器复现论文结果 | 在列出的基准上核对报告的数字

如果你的应用从不把不可信的文本交给模型，或者你用的是别的基础模型，可以跳过它，因为这个适配器是为 Llama-3.1-8B-Instruct 准备的。

用在哪里：

• 使用 Transformers 和 PEFT 的 Python 代码
• 支持 BF16 的 GPU 环境，模型卡的示例用的就是它
• Windows、macOS 或 Linux，下载需要 Python

用途 | 适合谁 | 得到什么
加固模型以抵御注入 | 应用开发者 | 一个把数据中的命令当作不可信内容的模型
测试注入攻击 | 安全团队 | 可以比较的攻击成功率
复现论文 | 研究人员 | 报告表格背后的那个适配器

如何设置：

• 你电脑上的 Python
• 适合你硬件的 PyTorch，以及 Transformers、PEFT 和 Accelerate
• 对 Llama-3.1-8B-Instruct 基础模型的访问权限
• 支持 BF16 的 GPU，用于模型卡的示例

1. 用 pip 安装这些 Python 包。
2. 下载适配器文件。
3. 加载基础模型，再通过 PEFT 挂上适配器。

pip install torch "transformers>=4.51.0,<5" "peft==0.14.0" accelerate

pip install -U huggingface_hub
hf download yuyangGong/LocalAlign_llama3.1_8B

如何使用：你加载基础的 Llama 模型，挂上这个适配器，然后像往常一样给模型提示词。可信的指令放在指令部分，外部内容放在数据部分。模型卡的输入格式部分不在这里看到的文字里。

示例：有人做了一个读取网页的摘要工具。网页里藏着一行，要求模型泄露它的指令。挂上适配器之后，模型会总结这个网页，而不会照那一行去做。模型卡报告说它在测试集上的攻击成功率更低。

新手与专家：如果你是新手，可以把模型想成一个有时会听从夹在它所读文件里的便条的助手。这个适配器训练它只听主人的指令。你可以拿一份埋了命令的短文档试试。

如果你熟悉这个领域：方法有三个阶段，先热身出对可信指令的偏好，再生成接近目标的对抗样本，最后做感知间隔的对齐，对间隔小的样本施加更大的压力。自适应攻击仍然更难防，部分基准分数也略有下降。

热身出对可信指令的偏好
生成接近目标的注入样本
用感知间隔的加权做对齐
发布 LoRA 适配器
挂到 Llama-3.1-8B-Instruct 上

注意事项：

防御方式 | HotpotQA 攻击率 | Qasper 攻击率 | InjecAgent 攻击率
无防御 | 74.0% | 83.0% | 81.1%
Meta-SecAlign | 44.0% | 45.0% | 13.5%
LocalAlign | 8.0% | 7.0% | 0.0%

• Limits: 自适应攻击仍然更难防，这个模型在 HotpotQA 上的攻击成功率是 23.0%。
• Utility: 部分基准略有下降，比如 Llama 3.1 的 IFEval 从 80.34 降到 73.93。
• Scope: 它是适配器，所以需要 Llama-3.1-8B-Instruct 基础模型。
• License: Llama 3.1 许可，来自基础模型。
• Cost to run: 未提及。
• Data it reaches: 它把适配器文件复制到你的电脑，只读取你给它的提示词和文档。

Hugging Face 上的数据（2026年11月14日）

• 任务：text generation
• 框架：peft
• Formats: Safetensors
• 最近 30 天下载：156
• 点赞：9
• 许可证：llama3.1
• 基于：meta-llama/Llama-3.1-8B-Instruct
• 标签：peft, safetensors, localalign, lora, prompt-injection, alignment, text-generation, conversational

链接

• 模型：https://huggingface.co/yuyangGong/LocalAlign_llama3.1_8B
• 文件：https://huggingface.co/yuyangGong/LocalAlign_llama3.1_8B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download yuyangGong/LocalAlign_llama3.1_8B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。