DeepHat-V1-7B

DeepHat-V1-7B

面向网络安全和 DevOps 工作的 7B 编程模型，由 Qwen2.5-Coder-7B 微调而来。适合想要本地小模型的安全和运维工程师，须遵守附加的使用限制。

由 DeepHat 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：DeepHat-V1-7B 是 Qwen2.5-Coder-7B 的微调版本，有 7.6B 参数，来自一个为进攻和防御网络安全而做的模型系列。它的示例系统消息把它描述为网络安全和 DevOps 方面的专家。它保留了基础模型 131,072 个词元的上下文。

适合谁：想要一个能自己运行的小型编程和安全助手的安全与运维工程师。

Industry | Who uses it | How they use it | Example
安全 | 安全工程师 | 获得防御和授权测试任务方面的帮助 | 解释一个配置风险
DevOps | 平台工程师 | 请它写脚本、帮忙处理流水线 | 起草一个部署脚本
软件 | 开发者 | 使用偏重安全的编程模型 | 检查一个函数有没有不安全的输入处理
教育 | 学生 | 用本地模型学习安全概念 | 讲解一类常见漏洞

如果你的用途属于下面的许可证限制，或者你想要通用聊天模型，可以跳过它。

用在哪里：

• Python，通过 Hugging Face Transformers
• Windows、macOS 或 Linux，下载这一步需要 Python
• 其他能读取 Qwen2 风格 Safetensors 权重的工具

Use case | Who | What they get back
写代码 | 开发者 | 比如排序例程这样的代码
安全问题 | 安全工程师 | 解释和示例代码
长输入 | 分析师 | 在 config.json 里启用 YaRN 之后的更长上下文

如何设置：

• 电脑上装有 Python 和 pip
• 较新的 Transformers 版本，因为低于 4.37.0 的版本会报 qwen2 键错误
• 有 GPU 或足够的内存，BF16 权重约 15.2 GB，按估算 4-bit 约 3.8 GB

1. 安装或更新 Transformers。
2. 用 hf 命令下载模型文件。
3. 运行模型卡里的 Python 快速开始示例。

pip install -U huggingface_hub
hf download DeepHat/DeepHat-V1-7B

如何使用：加载模型和分词器，用一条系统消息和你的问题构建对话，然后生成。模型卡把示例限制在 512 个新词元。

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "DeepHat/DeepHat-V1-7B"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = "write a quick sort algorithm."
messages = [
    {"role": "system", "content": "You are DeepHat, created by Kindo.ai. You are a helpful assistant that is an expert in Cybersecurity and DevOps."},
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=512
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

示例：你原样运行模型卡里的脚本，让它写一个快速排序算法。模型把代码放进 response 变量返回，你可以把它打印出来。

新手与专家：如果你是新手，先原样运行快速开始示例，再换成你自己的问题。只在你被允许处理的系统和代码上使用它。

如果你懂这个领域，随附的 config.json 允许最多 32,768 个词元。更长的输入需要按模型卡的做法加入一条因子为 4.0 的 YaRN rope_scaling。架构沿用 Qwen2.5，有 28 层和分组查询注意力，查询 28 个头，键值 4 个头。

{
  ...,
  "rope_scaling": {
    "factor": 4.0,
    "original_max_position_embeddings": 32768,
    "type": "yarn"
  }
}

Qwen2.5-Coder-7B 基础模型
针对网络安全和 DevOps 的微调
用 Transformers 加载
聊天回复

注意事项：

• License: Apache 2.0，附加 DeepHat 的扩展使用限制
• Cost to run: 你自己的硬件，快速开始示例不需要付费服务
• Data it reaches: 你下载的文件和你给它的提示词
• Not for: 违法用途、军事用途、伤害未成年人、骚扰或欺骗他人，依许可证列表而定

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：7.6B
• Weights: about 15.2 GB in BF16; about 3.8 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：4,315
• 点赞：309
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen2.5-Coder-7B
• Quantized versions: 17
• Fine-tunes: 4
• 标签：transformers, safetensors, qwen2, text-generation, code, qwen-coder, cybersecurity, devops, conversational

链接

• 模型：https://huggingface.co/DeepHat/DeepHat-V1-7B
• 文件：https://huggingface.co/DeepHat/DeepHat-V1-7B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download DeepHat/DeepHat-V1-7B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。