Qwen3-1.7B

Qwen3-1.7B

一个紧凑的 1.7B 聊天模型，可在用于推理的思考模式和用于对话的快速模式之间切换。适合想用小型开放模型做聊天、翻译和智能体功能的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwen3-1.7B 是 Qwen 推出的紧凑聊天模型，约有 17 亿参数，基于 Qwen3-1.7B-Base 构建。一个模型涵盖两种模式。思考模式会一步步处理数学、逻辑和代码，非思考模式则为日常对话给出快速回复。

适合谁：适合想在普通硬件上运行小型开放模型的开发者，也适合开发聊天、翻译或智能体功能、又希望保持轻量的人。想了解思考开关如何工作的学习者同样适合。

Industry | Who uses it | How they use it | Example
软件 | 应用开发者 | 在应用里运行小型聊天模型 | 给工具加一个本地助手
开发者工具 | 智能体开发者 | 让模型调用外部工具 | 通过 vLLM 接入 API 端点
教育 | 学生和老师 | 用思考开关研究推理过程 | 对比开启和关闭思考的回答
本地化 | 多语言团队 | 用多种语言翻译并遵循指令 | 起草简短译文供审阅

如果你需要在难题上得到最强的回答，可以跳过它，因为还有更大的 Qwen3 模型。

用在哪里：

• Windows、macOS 或 Linux 上使用 transformers 库的 Python 脚本
• SGLang 和 vLLM，它们可以把模型作为兼容 OpenAI 的 API 端点提供服务
• Ollama 和 llama.cpp，用来在本地运行
• LMStudio、MLX-LM 和 KTransformers，它们也已支持 Qwen3

Use case | Who | What they get back
本地聊天助手 | 开发者 | 在你自己机器上生成的回复
分步推理 | 学生和开发者 | 一段思考内容，后面跟着最终答案
使用工具的智能体 | 智能体开发者 | 两种模式下都能调用外部工具
翻译 | 多语言用户 | 支持 100 多种语言和方言的文本

如何设置：

• 安装好 Python 和 pip
• 较新的 transformers，低于 4.51.0 的版本会报 KeyError
• 足够放下权重的内存，BF16 约 4.1 GB，4-bit 约 1 GB（估算值）

1. 安装 Hugging Face hub 包。
2. 下载模型文件。
3. 更新 transformers，然后用下面的代码加载模型。

pip install -U huggingface_hub
hf download Qwen/Qwen3-1.7B

如何使用：加载分词器和模型，构造一条聊天消息，让模型生成回复。enable_thinking 参数用来在思考和非思考模式之间切换。代码随后通过查找思考结束标记，把思考文字和最终答案分开。

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3-1.7B"

# load the tokenizer and the model
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)

# prepare the model input
prompt = "Give me a short introduction to large language model."
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True,
    enable_thinking=True # Switches between thinking and non-thinking modes. Default is True.
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

# conduct text completion
generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=32768
)
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()

# parsing thinking content
try:
    # rindex finding 151668 (</think>)
    index = len(output_ids) - output_ids[::-1].index(151668)
except ValueError:
    index = 0

thinking_content = tokenizer.decode(output_ids[:index], skip_special_tokens=True).strip("\n")
content = tokenizer.decode(output_ids[index:], skip_special_tokens=True).strip("\n")

print("thinking content:", thinking_content)
print("content:", content)

如果要把它作为 API 端点提供服务，请使用 SGLang 0.4.6.post1 或更新版本，或者 vLLM 0.8.5 或更新版本。

python -m sglang.launch_server --model-path Qwen/Qwen3-1.7B --reasoning-parser qwen3

vllm serve Qwen/Qwen3-1.7B --enable-reasoning --reasoning-parser deepseek_r1

Tool | What it does
transformers | 在 Python 里加载模型并运行生成
SGLang | 把模型作为带推理解析器、兼容 OpenAI 的端点提供服务
vLLM | 把模型作为带推理解析器、兼容 OpenAI 的端点提供服务
enable_thinking | 在思考和非思考模式之间切换

示例：你把提示词换成 "Explain what a hash map is in two sentences."，再运行这段代码。它会打印两部分。先是思考内容，然后是包含两句话解释的最终内容。

新手与专家：如果你刚接触，先下载文件，原样运行代码，读一读打印出的两部分。然后把 enable_thinking 改成 False，对比回复有什么变化。

专家会看到一个因果语言模型：28 层、16 个查询头和 8 个键值头（GQA），非嵌入参数约 1.4B，上下文 32,768 词元。如果出现无休止的重复，模型卡建议使用它推荐的采样设置，并把 presence_penalty 设为 1.5。

你构造一条聊天消息
模板设定开启或关闭思考
模型生成词元
代码把思考内容和答案分开

注意事项：

• Context: 32,768 词元
• Repetition: 如果输出无休止重复，就把 presence_penalty 设为 1.5
• License: Apache 2.0
• Cost to run: 未提及，不需要 API 密钥或账号，只需要内存足够的硬件
• Data it reaches: 会从 Hugging Face 下载模型文件，之后在你自己的机器上生成内容
• Not for: 来源没有列出禁止用途，这么小的模型不太适合最难的任务

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：2B
• Weights: about 4.1 GB in BF16; about 1 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：3,203,490
• 点赞：618
• 许可证：apache-2.0
• 基于：Qwen/Qwen3-1.7B-Base
• Quantized versions: 497
• Fine-tunes: 1,399
• 标签：transformers, safetensors, qwen3, text-generation, conversational

链接

• 模型：https://huggingface.co/Qwen/Qwen3-1.7B
• 文件：https://huggingface.co/Qwen/Qwen3-1.7B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen3-1.7B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。