Qwen3-1.7B-Base

Qwen3-1.7B-Base

作为 1.7B 的基础语言模型来续写文本和代码，预训练覆盖 119 种语言。适合想用小模型做微调或测试的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwen3-1.7B-Base 是 Qwen3 系列中的一个小型基础语言模型。它有 17 亿参数，处于预训练阶段，所以它会续写文本，而不是照着聊天指令回答。它的预训练覆盖了 119 种语言的 36 万亿个 token。

适合谁：它适合想要一个紧凑的基础模型来微调、量化或试验想法的开发者和研究人员。Hugging Face 上列出了其他人做的 56 个量化版本和 504 个微调版本。

Industry | Who uses it | How they use it | Example
人工智能研究 | 机器学习研究人员 | 在小型基础模型上测试训练想法 | 在同一个起点上比较两种微调方案
软件开发 | 应用开发者 | 为一个狭窄的文本任务做微调 | 让它适应某个产品里的文本补全
模型分发 | 打包者 | 制作更小的量化副本 | 把权重从 BF16 缩小到 4-bit

如果你需要一个开箱即可听从指令的模型，可以跳过它，因为这是基础版本。

用在哪里：

• 使用 transformers 库的 Python
• 文件下载后，在 Windows、macOS 或 Linux 上使用
• 你自己的微调和量化流程

Use case | Who | What they get back
文本续写 | 开发者 | 接着你给出的文字继续写下去的文本
微调基础 | 机器学习工程师 | 为某个任务做训练的起点
量化副本 | 打包者 | 适合较轻硬件的较小版本

如何设置：

• Windows、macOS 或 Linux 上的 Python
• huggingface_hub 包，用来下载文件
• 最新版本的 transformers，因为旧版本在这个模型上会失败
• 为约 3.4 GB 的 BF16 权重留出空间

1. 安装 Hugging Face 的 hub 包。
2. 把模型文件下载到你的电脑。
3. 让 transformers 保持最新。

pip install -U huggingface_hub
hf download Qwen/Qwen3-1.7B-Base

如果 transformers 版本比 4.51.0 更旧，加载会因为下面这个错误而停止。

KeyError: 'qwen3'

如何使用：日常使用时，你用 transformers 加载模型，再给它一段要续写的文字。模型卡没有给出聊天提示词或代码示例，更多内容请看它的博客和文档。

Tool | What it does
hf download | 把模型文件下载到你的电脑
transformers | 加载模型，用最新版本

示例：你给模型一段话的开头几句。它会以纯文本补全的方式接着写下去。它不会像聊天助手那样回答你，因为这是基础模型。

新手与专家：如果你是新手，先用上面两条命令下载文件，再读一读模型卡。然后用 transformers 加载模型，给它一句没写完的话让它接着写。

如果你熟悉这个领域：这是一个因果语言模型，有 28 层、14 亿个非嵌入参数，使用分组查询注意力，有 16 个查询头和 8 个键值头。训练分三个阶段，从广泛的语言建模到推理，再到更长的序列。上下文长度是 32,768。

你给出一段文字的开头
模型通过 28 层读取它
它预测接下来的 token
文本继续下去

注意事项：

Title: 注意力头数量
查询头: 16 个
键值头: 8 个

• 基础模型：模型卡只描述预训练阶段
• 上下文：32,768 个 token
• 大小：BF16 约 3.4 GB，4-bit 估计约 860 MB
• License: apache-2.0
• Cost to run: 没有提到费用，在你自己的硬件上运行
• Data it reaches: 你给它的文字，以及你从 Hugging Face 下载的模型文件
• Not for: 听从聊天指令，因为模型卡只涉及预训练的基础版本

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：1.7B
• Weights: about 3.4 GB in BF16; about 860 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：599,054
• 点赞：101
• 许可证：apache-2.0
• Quantized versions: 56
• Fine-tunes: 504
• 标签：transformers, safetensors, qwen3, text-generation, conversational

链接

• 模型：https://huggingface.co/Qwen/Qwen3-1.7B-Base
• 文件：https://huggingface.co/Qwen/Qwen3-1.7B-Base/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen3-1.7B-Base

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。