Qwen3.6-35B-A3B-FP8

Qwen3.6-35B-A3B-FP8

读取文本和图像并输出文本，是 Qwen3.6-35B-A3B 的 FP8 版本，激活参数 3B。适合运行编程智能体、又想比全精度下载更小的开发者。

由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 Qwen3.6-35B-A3B 的 FP8 量化版本，后者是第一个开放权重的 Qwen3.6 模型。它是带视觉编码器的混合专家语言模型，总参数 35B，激活 3B。量化采用块大小为 128 的细粒度 fp8，模型卡称其指标与原模型几乎相同。

适合谁：想要用于智能体编程的开源模型，并且希望占用空间比全精度权重更小的开发者。

Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在本地或托管模型上运行编程智能体 | 让智能体在整个仓库里推理
网页开发 | 前端团队 | 用它处理前端工作流 | 在智能体帮助下做一个页面组件
AI 平台 | 基础设施团队 | 在 vLLM 或 SGLang 上提供量化模型服务 | 托管一个内部编程助手

如果你腾不出约 36 GB 来放权重，可以跳过它，或者看看别人做的 4-bit 版本。

用在哪里：

• Hugging Face Transformers
• vLLM 和 SGLang，模型卡列为兼容
• KTransformers，同样列为兼容

Use case | Who | What they get back
智能体编程 | 开发者 | 仓库级别的帮助和前端代码
长上下文工作 | 分析师 | 原生最多 262,144 个 token 的推理
图像和文字输入 | 开发者 | 关于你提供图像的文字回答

如何设置：

• 带 pip 的 Python
• FP8 权重约 36 GB 磁盘空间
• 模型卡列出的一种运行环境：Transformers、vLLM、SGLang 或 KTransformers

1. 安装 Hugging Face hub 工具。
2. 下载模型文件。
3. 按模型卡在兼容的运行环境里加载它们。

pip install -U huggingface_hub
hf download Qwen/Qwen3.6-35B-A3B-FP8

如何使用：通过你选的运行环境发送聊天消息，也可以附上图像。这里看到的模型卡部分没有运行代码，所以请查看模型卡了解具体命令。模型卡还提到一个 Thinking Preservation 选项，可以保留之前消息里的推理。

示例：你请一个基于该模型的智能体，在仓库的多个文件里追查一个 bug。模型卡把仓库级推理列为模型的升级之一。这只是示意，并不是实际测试的结果。

新手与专家：如果你是新手，先从托管应用或简单的运行环境开始，因为权重很大。量化权重是用更小的空间装下同一个模型。

如果你是专家，模型有 40 层，按 Gated DeltaNet 和 Gated Attention 块重复排列，每块后面接混合专家。共有 256 个专家，激活 8 个路由专家和 1 个共享专家，上下文从 262,144 扩展到最多 1,010,000 个 token。

文本和图像输入
Gated DeltaNet 和注意力层读取它们
每个 token 由 256 个专家中的少数几个处理
输出文本

注意事项：模型卡在 SWE-bench Verified 上把分数和几个模型做了对比。

Title: 模型卡中的 SWE-bench Verified 分数
Qwen3.5-27B: 75.0 分
Qwen3.6-35B-A3B: 73.4 分
Qwen3.5-35B-A3B: 70.0 分
Gemma4-31B: 52.0 分
Gemma4-26B-A4B: 17.4 分

• License: Apache 2.0，与 Hugging Face 记录一致。
• Cost to run: 没有提到 API 密钥或账号。你需要能放下约 36 GB 权重的硬件。
• Data it reaches: 下载会访问 Hugging Face。模型卡没有说明模型会访问其他文件或网络。
• Not for: 模型卡没有列出禁止的用途。在它的表格里，较早的 Qwen3.5-27B 在 SWE-bench Verified 上得分更高。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：36B
• Weights: about 36 GB in F8_E4M3; about 18 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：3,818,590
• 点赞：448
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.6-35B-A3B
• Quantized versions: 18
• Fine-tunes: 13
• 标签：transformers, safetensors, qwen3_5_moe, image-text-to-text, conversational, fp8

链接

• 模型：https://huggingface.co/Qwen/Qwen3.6-35B-A3B-FP8
• 文件：https://huggingface.co/Qwen/Qwen3.6-35B-A3B-FP8/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download Qwen/Qwen3.6-35B-A3B-FP8

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。