Qwen3-14B

Qwen3-14B

这是一个 14.8B 参数的开源模型，难题用思考模式推理，日常聊天用更快的非思考模式回答。适合想用一个模型处理逻辑、代码、智能体和 100 多种语言的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwen3-14B 是 Qwen 团队的 14.8B 参数语言模型，属于 Qwen3 这一代，这一代包含稠密模型和混合专家模型。同一个模型可以在思考模式和非思考模式之间切换，前者用于逻辑、数学和代码，后者用于普通聊天。它基于 Qwen3-14B-Base 模型。

适合谁：适合想用一个开源模型处理推理、编程、智能体和多语言任务的开发者和团队，许可证为 Apache 2.0。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 用思考模式处理代码和逻辑问题 | 一步一步排查一个棘手的 bug
AI 产品 | 智能体开发者 | 在智能体循环里把模型接到外部工具 | 一个会调用搜索工具的助手
本地化 | 译者 | 在 100 多种语言和方言之间翻译并遵循指令 | 为一份英文备忘录写泰语摘要
内容 | 写作者 | 用非思考模式快速完成创意和聊天回复 | 一段快速的角色扮演对话

如果你想在配置较低的笔记本上用小模型，可以跳过它，因为 BF16 权重约 29.5 GB，4-bit 也要约 7.4 GB。

用在哪里：它可以在带 transformers 的 Python 里运行，也可以放在 API 服务器后面，或用本地应用运行。

• 使用 transformers 库的 Python 脚本
• 提供 OpenAI 兼容 API 端点的 SGLang 或 vLLM 服务器
• 桌面上的 Ollama 或 LMStudio，二者都支持 Qwen3
• 其他本地运行方式：MLX-LM、llama.cpp 或 KTransformers
• Windows、macOS 或 Linux

Use case | Who | What they get back
复杂推理 | 开发者 | 一段思考内容，后面跟着最终答案
调用工具的智能体 | 智能体开发者 | 在思考和非思考模式下都能调用外部工具
多语言工作 | 译者 | 100 多种语言的翻译和指令遵循
日常聊天 | 所有人 | 关掉思考后的快速回复

如何设置：你需要 Python，并且有足够的内存放下模型权重。

• 带 pip 的 Python
• 较新的 transformers 版本，4.51.0 以下的版本会对 qwen3 报 KeyError
• 如果要部署服务，需要 sglang 0.4.6.post1 或更新版本，或者 vllm 0.8.5 或更新版本
• 放下权重所需的空闲内存：BF16 精度约 29.5 GB，压缩到 4-bit 约 7.4 GB

1. 用 pip 安装 Hugging Face hub 工具。
2. 用 hf 命令下载模型文件。
3. 把 transformers 更新到最新版本，或者安装 SGLang 或 vLLM 来起服务。
4. 在 Python 里加载模型，或者用下面的命令之一启动服务。

pip install -U huggingface_hub
hf download Qwen/Qwen3-14B

如何使用：在 Python 里，你按名称加载分词器和模型，构造消息列表，再用 enable_thinking 参数选择模式并应用聊天模板。如果想改成提供 API，就运行下面的命令之一。

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3-14B"

python -m sglang.launch_server --model-path Qwen/Qwen3-14B --reasoning-parser qwen3
vllm serve Qwen/Qwen3-14B --enable-reasoning --reasoning-parser deepseek_r1

Tool | What it does
enable_thinking | 在思考和非思考模式之间切换，默认值为 True
apply_chat_template | 把消息列表转成一条提示词字符串
generate | 生成新的 token
sglang.launch_server | 启动带推理解析器的 OpenAI 兼容服务器
vllm serve | 启动带推理解析器的 OpenAI 兼容服务器

示例：开启思考模式后，你问："Explain in a few lines how a language model writes text." 输出里有思考部分和最终答案部分，模型卡里的代码会在结束思考的 token 处把两部分拆开，方便你分别打印。

新手与专家：如果你是新手，先下载文件，在 Python 里开着思考模式加载模型，问一个很短的问题。然后把开关关掉，比较回复到达的速度。

如果你熟悉这个领域：这是一个因果语言模型，有 40 层，使用分组查询注意力，有 40 个查询头和 8 个键值头。约有 132 亿参数不在词嵌入里。原生上下文是 32,768 个 token，用 YaRN 可以扩展到 131,072。推理解析器把思考文本和最终回复分开。

用 hf 下载文件
加载模型或启动服务
选择思考或非思考模式
生成 token
把思考内容和最终答案分开

注意事项：原生上下文是 32,768 个 token，要用到 131,072 个 token 需要 YaRN。模型卡的示例把 max_new_tokens 设成 32768，所以长时间思考可能产生很多文字。

Title: 权重大小，单位 GB
BF16: 29.5 GB
4-bit (estimate): 7.4 GB

• License: Apache 2.0
• Cost to run: 未提及，只需要你自己的硬件
• Data it reaches: 你电脑上的模型文件，如果接入智能体方案，还会接触外部工具
• Not for: 模型卡没有列出禁止用途

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：14.8B
• Weights: about 29.5 GB in BF16; about 7.4 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：12,965,376
• 点赞：540
• 许可证：apache-2.0
• 基于：Qwen/Qwen3-14B-Base
• Quantized versions: 229
• Fine-tunes: 387
• 标签：transformers, safetensors, qwen3, text-generation, conversational

链接

• 模型：https://huggingface.co/Qwen/Qwen3-14B
• 文件：https://huggingface.co/Qwen/Qwen3-14B/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen3-14B

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。