Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF

回答问题并读取图像，思考过程短得多。这是 DavidAU 对 27B 的 Qwen 3.8 的调优版 GGUF，目标是在保持准确度的同时减少推理 token，适合在本地运行模型的人。

由 DavidAU 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是一组 GGUF 文件，对应 DavidAU 从 Qwen3.8-27B 调优而来的 26.9B 模型，基准测试由 Nightmedia 协助，数据集由 TeichAI 协助。它用作者称为 Cold Fusion 的方法训练。目标是缩短模型的思考块，加快生成速度，包括 MTP，同时不损害回答质量。它能处理文字和图像，并列出英语和中文。

适合谁：在本地运行大型推理模型，并且希望少等待冗长思考输出的人。

Industry | Who uses it | How they use it | Example
软件开发 | 运行本地编程和对话模型的开发者 | 用它替换普通的 27B 模型，以得到更短的推理 | 问一个编程问题，得到更短的思考块
研究 | 比较本地模型的人 | 测试它的思考长度，并与基础的 Qwen3.8-27B 对比 | 在同样的提示词下统计推理 token 数
通用使用 | 有高性能显卡的爱好者 | 与它对话并给它图像 | 对一张截图提问

如果你没有能运行 27B 模型的硬件，或者想要保持不变的基础模型，可以跳过它。

用在哪里：GGUF 文件可以在能读取这种格式的本地应用和运行环境里加载。文件可以在 Windows、macOS 或 Linux 上下载。

• 能加载 GGUF 文件的本地运行环境和应用
• Windows、macOS 或 Linux：可以用 Python 获取文件的系统
• 使用 MTP 加快 token 生成的环境

Use case | Who | What they get back
推理问题 | 开发者 | 思考块更短的回答
图像问题 | 普通用户 | 关于图片的文字回复
模型对比 | 研究者 | 一个可与基础 Qwen3.8-27B 对照测试的调优模型

如何设置：你需要 Python 来下载，一个支持 GGUF 的应用，以及足够存放所选量化版本的空间。4-bit 下权重约 13.4 GB，这是估计值。

• 带 pip 的 Python
• 支持 GGUF 的本地应用
• 存放一个量化文件的磁盘空间

1. 安装 Hugging Face hub 库。
2. 下载这些文件，或从仓库里选一个量化文件。
3. 在你的应用里加载它。

pip install -U huggingface_hub
hf download DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF

如何使用：模型卡在显示的部分没有给出运行命令。在你的应用里加载一个量化版本，像使用普通 Qwen 模型一样输入提示词。作者说这些改动在三种思考模式下都有效。

Tool | What it does
hf download | 把模型文件下载到你的电脑

示例：你加载模型，问一个多步推理的问题。作者说它思考所用的 token 大约是普通 Qwen3.8 模型的一半到十分之一，然后给出答案。

新手与专家：如果你刚接触这类模型，思考型模型会在回答前写出推理过程。这个模型被调优得写得更少。拿一个你在其他模型上试过的问题来试，比较输出长度。

如果你熟悉这个领域，作者说 Cold Fusion 训练会在模型学习过程中改变每个样本的训练方式，并且 4-bit 保留了约 99% 的 BF16 性能。作者还报告思考大小的中位数减少约三分之二。这些都是作者自己的说法。

Qwen3.8-27B 基础模型
Cold Fusion GAIN 训练
更短的思考块
供本地使用的 GGUF 量化版本

注意事项：作者说每个阶段都做了检查，最后用与基础模型并排的人工测试收尾。

• License: Apache 2.0
• Cost to run: 未提及，硬件由你自己提供
• Data it reaches: 模型卡没有提到
• Not for: 模型卡没有列出不适用的情形，并且说还计划推出更大的调优版本

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 参数量：26.9B
• Weights: about 13.4 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：372,115
• 点赞：342
• 许可证：apache-2.0
• 语言：ar, zh, en, fr, de, hi, id, it
• 基于：DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1
• 标签：gguf, qwen3_5, unsloth, cold-fusion, finetune, qwen3.8, thinking, reasoning, coder, creative, story, writing

链接

• 模型：https://huggingface.co/DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF
• 文件：https://huggingface.co/DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。