Qwen2.5-1.5B-Instruct

Qwen2.5-1.5B-Instruct

Qwen 的 1.5B 小型对话模型，能遵循指令、写代码和数学、输出 JSON 等结构化内容，支持超过 29 种语言。适合需要轻量模型的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwen2.5-1.5B-Instruct 是 Qwen 的 Qwen2.5 系列语言模型中经过指令微调的 1.5B 模型。它接收对话式提示词并写出回复。

Qwen2.5 系列在知识、编程和数学、遵循指令，以及生成长文本和结构化输出（尤其是 JSON）上都比 Qwen2 有所改进。模型卡称它支持超过 29 种语言，系列还提供 128K token 的长上下文选项。

适合谁：它适合想要一个能在笔记本或普通 GPU 上运行的小模型的开发者和学习者，用来聊天、起草、简单的代码帮助或结构化回答。

行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 在应用里运行轻量对话模型 | 在本地回答用户问题
教育 | 学生 | 用小模型练习提示词和代码 | 请它做一个简短的解释
数据工作 | 分析师 | 从文本得到结构化 JSON | 把一条笔记变成 JSON 字段
研究 | 机器学习工程师 | 把它当作微调的基础 | 让它适应一个小任务

如果你需要最强的推理或超长文档，可以跳过它，因为还有更大的 Qwen2.5 模型。

用在哪里：它通过 Python 里的 Hugging Face transformers 库在 Windows、macOS 或 Linux 上运行。体积小，所以普通硬件也放得下。

• 带 transformers 库的 Python
• 笔记本 CPU 或小型 GPU
• 需要轻量本地对话模型的应用

用途 | 谁 | 得到什么
对话回复 | 开发者 | 对提示词的文字回答
结构化输出 | 数据团队 | 由普通文本生成的 JSON
代码和数学帮助 | 学生 | 简短的代码和解题过程

如何设置：你需要带 pip 的 Python、PyTorch 和较新的 transformers。模型卡说，transformers 低于 4.37.0 时会看到 qwen2 的 KeyError。

• 带 pip 的 Python
• PyTorch 和较新的 transformers
• BF16 权重约需 3.1 GB 磁盘空间

1. 安装 Hugging Face hub 包。
2. 下载模型文件，或让 transformers 自动获取。
3. 如果看到 qwen2 的错误，就更新 transformers。

pip install -U huggingface_hub
hf download Qwen/Qwen2.5-1.5B-Instruct

如何使用：你加载分词器和模型，用聊天模板构建提示词，生成，再解码回复。模型卡的代码做的就是这些。

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen2.5-1.5B-Instruct"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = "Give me a short introduction to large language model."
messages = [
    {"role": "system", "content": "You are Qwen, created by Alibaba Cloud. You are a helpful assistant."},
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=512
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]

示例：你发送要求简短介绍大语言模型的提示词，再加一条设定助手角色的系统消息。模型会返回一段简短的书面介绍，最多 512 个新 token。

新手与专家：如果你是新手，原样运行示例代码，再改提示词，读新的回答。系统消息设定助手的角色和语气。

如果你懂这个领域，模型有 28 层，采用 12 个查询头和 2 个键值头的分组查询注意力，完整上下文为 32,768 个 token，最多可生成 8,192 个。

加载分词器和模型
用聊天模板构建消息
生成新的 token
解码回复文本

注意事项：模型卡指向博客和文档来查看基准结果和 GPU 内存需求。别人还做了很多量化版和微调版。

• License: apache-2.0
• Cost to run: 未提及费用
• Data it reaches: 你下载的文件，以及你发送的提示词
• Not for: 需要最大模型的任务，因为这是小号的 1.5B

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：1.5B
• Weights: about 3.1 GB in BF16; about 772 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：5,181,515
• 点赞：941
• 许可证：apache-2.0
• 语言：en
• 基于：Qwen/Qwen2.5-1.5B
• Quantized versions: 378
• Fine-tunes: 2,096
• 标签：transformers, safetensors, qwen2, text-generation, chat, conversational

链接

• 模型：https://huggingface.co/Qwen/Qwen2.5-1.5B-Instruct
• 文件：https://huggingface.co/Qwen/Qwen2.5-1.5B-Instruct/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen2.5-1.5B-Instruct

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。