Qwen3.5-9B-Base

Qwen3.5-9B-Base

为研究人员和开发者提供带视觉编码器的预训练 9B 基础模型，用于微调和实验，而不是直接聊天。能处理文本和图像。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Qwen3.5-9B-Base 是 Qwen3.5 系列中仅做过预训练的 9B 模型，是附带视觉编码器的语言模型。它是基础模型，用作微调和研究的起点，而不是直接对话。它支持 201 种语言和方言。

适合谁：想要一个强大的开源基础模型来微调、做上下文学习实验或在其上构建的研究人员和开发者。

Industry | Who uses it | How they use it | Example
研究 | 机器学习研究人员 | 在基础模型上做上下文学习实验 | 不经过对话调优，测试少样本提示词
软件 | 开发者 | 为产品任务微调它 | 为客服助手训练一个 LoRA 适配器
本地化 | 语言团队 | 让它适应某种语言或方言 | 用一种地区语言的文本做微调

如果你想要开箱即聊的模型，可以跳过它，改选指令微调的版本。

用在哪里：

• Hugging Face Transformers
• vLLM 和 SGLang
• 微调环境，包括 LoRA 式训练
• 在 Windows、macOS 或 Linux 上下载文件

Use case | Who | What they get back
微调 | 开发者 | 一个建立在 9B 基础模型上的定制模型
上下文实验 | 研究人员 | 基础模型在少样本提示词下的行为
多模态研究 | 研究人员 | 一个能接受文本和图像的基础模型

如何设置：

• 带 pip 的 Python
• 能放下 BF16 约 19.3 GB 的硬件，按 Hugging Face 的估算，4 位约 4.8 GB
• Transformers、vLLM 或 SGLang，它们都能读取这些文件

1. 安装 Hugging Face hub 包。
2. 下载模型文件。
3. 在你的微调或研究环境里加载。

pip install -U huggingface_hub
hf download Qwen/Qwen3.5-9B-Base

如何使用：在 Transformers、vLLM 或 SGLang 里加载权重，用于微调或少样本实验。卡片说控制词元已经训练过，所以用官方聊天模板做 LoRA 式训练时，不需要新的嵌入。

示例：你加载基础模型，用官方聊天模板在自己的样本上微调一个 LoRA 适配器。控制词元已经可用，所以不必训练嵌入。

新手与专家：如果你是新手，要知道基础模型只会续写文本，不太会遵循指令。请先微调，或者聊天时改用指令微调的同系列模型。

语言模型有 32 层，排成 8 组，每组先是三个 Gated DeltaNet 块，再是一个 Gated Attention 块，隐藏维度为 4096，并做了多步 MTP 训练。上下文原生为 262,144 个词元，可扩展到 1,010,000。

带视觉编码器的预训练基础模型
在 Transformers、vLLM 或 SGLang 中加载
微调，或做上下文测试
你适配后的模型

注意事项：

• 它只做过预训练，所以没有针对直接交互做调优
• 卡片说它的预期用途是微调、上下文实验以及研究或开发
• License: Apache 2.0
• Cost to run: 没有列出费用，硬件由你自己准备
• Data it reaches: 你的提示词、图像，以及从 Hugging Face 下载的文件
• Not for: 直接聊天，卡片说这不是预期用途

Title: Context length in tokens
Native: 262144 词元
Extended: 1010000 词元

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：9.7B
• Weights: about 19.3 GB in BF16; about 4.8 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：287,397
• 点赞：154
• 许可证：apache-2.0
• Quantized versions: 50
• Fine-tunes: 664
• 标签：transformers, safetensors, qwen3_5, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/Qwen/Qwen3.5-9B-Base
• 文件：https://huggingface.co/Qwen/Qwen3.5-9B-Base/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen3.5-9B-Base

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。