Qwen3.8-27B-CodeForge-3xMerge i1 GGUF

Qwen3.8-27B-CodeForge-3xMerge i1 GGUF

Qwen3.8-27B-CodeForge-3xMerge 模型的重要性矩阵 GGUF 量化版，大小约 11 GB 到 22.5 GB，用于本地运行。适合在自己电脑上运行 27B 模型的人。

由 mradermacher 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库存放 Qwen3.8-27B-CodeForge-3xMerge 模型的 GGUF 文件，用重要性矩阵量化（i1 系列）。文件大小从约 11 GB 到 22.5 GB，你可以在质量和内存之间取舍。模型卡对模型本身着墨不多，它是一个合并模型，基础来自 xtools-at 的另一个仓库。

适合谁：适合用 GGUF 工具在本地运行模型，并想要一个大小能放进自己内存的 27B 模型的人。

Industry | Who uses it | How they use it | Example
软件 | 本地模型用户 | 在自己的机器上运行大型合并模型 | 选择 Q4_K_M 文件来适配内存
研究 | 量化测试者 | 对比重要性矩阵量化版 | 把 3 位文件和 4 位文件做对比测试
爱好者 | 尝鲜者 | 离线试用合并模型 | 不用云服务就能和模型聊天

如果你想了解这个模型最擅长什么，可以跳过，因为模型卡没有给出。另外还有一个单独的静态量化仓库。

用在哪里：GGUF 文件可以在 Windows、macOS 或 Linux 上的兼容 GGUF 工具里加载。模型卡称这是视觉模型，它的 mmproj 文件（如果有）放在作者的静态仓库里。

• 兼容 GGUF 的本地推理工具
• Windows、macOS 或 Linux
• 静态仓库，用于获取 mmproj 文件

Use case | Who | What they get back
本地文字聊天 | 爱好者 | 在你自己电脑上运行的 27B 模型
更小的占用 | 内存较少的用户 | 约 11 GB 起的文件
Imatrix 实验 | 量化人员 | 一个可用来自制量化版的 imatrix 文件

如何设置：你需要 Python 来运行下载工具，还要有放得下所选文件的磁盘空间。4 位的估计大小约 13.7 GB。模型卡指向一份第三方指南来了解 GGUF 基础，包括如何拼接多部分文件。

• Python 和 Hugging Face 工具
• 放得下所选文件的磁盘空间
• 能加载它的兼容 GGUF 的工具

1. 按模型卡的表格，按大小选择一个量化版。
2. 下载那个文件，或者整个仓库。
3. 在你的 GGUF 工具里加载这个文件。

pip install -U huggingface_hub
hf download mradermacher/Qwen3.8-27B-CodeForge-3xMerge-i1-GGUF

如何使用：在你的兼容 GGUF 的工具里加载所选文件，像用任何模型一样聊天。作者说 IQ 量化版通常比大小相近的非 IQ 版更好，而且表格是按大小排序，不是按质量排序。

Quant | Size in GB | Note
i1-Q2_K | 11.0 | 这里最小，质量较低
i1-IQ3_S | 12.7 | 比 Q3_K 系列更好
i1-Q4_K_S | 15.9 | 大小、速度和质量均衡
i1-Q4_K_M | 16.9 | 速度快，作者推荐
i1-Q6_K | 22.5 | 接近静态的 Q6_K

示例：你下载 16.9 GB 的 Q4_K_M 文件并在 GGUF 工具里加载。然后输入一个问题，模型就在你自己的机器上回答，不会把数据发到外面。

新手与专家：如果你是新手，先用 Q4_K_M 文件，作者把它标为速度快并且推荐。更大的文件占用更多内存，质量也更好。

如果你熟悉这个领域，这些是加权的 imatrix 量化版，并附带一个 imatrix 文件，可用来自制量化版。作者说 i1-Q6_K 实际上与静态的 Q6_K 一样。基础模型是三方合并，不过模型卡没有说明它是怎么做的。

合并后的 27B 基础模型
计算重要性矩阵
量化成多种大小
你按内存选择文件

注意事项：模型卡没有给出这个模型的基准分数。

• License: Apache 2.0
• Cost to run: 没有提到 API 密钥、账号或付费服务
• Data it reaches: 从 Hugging Face 下载的文件，以及你在本地工具里输入的内容
• Not for: 关于质量的断言，因为模型卡没有给出测试

Title: 文件大小，单位 GB
i1-Q2_K: 11.0 GB
i1-IQ3_S: 12.7 GB
i1-Q4_K_S: 15.9 GB
i1-Q4_K_M: 16.9 GB
i1-Q6_K: 22.5 GB

Hugging Face 上的数据（2026年11月13日）

• 框架：transformers
• 参数量：27.3B
• Weights: about 13.7 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：1,279
• 点赞：4
• 许可证：apache-2.0
• 语言：en, zh
• 基于：xtools-at/Qwen3.8-27B-CodeForge-3xMerge
• 标签：transformers, gguf, qwen3.8, qwen3_8, merge, coding, code-generation, reasoning, efficient-thinking, agentic, tool-use, instruction-following

链接

• 模型：https://huggingface.co/mradermacher/Qwen3.8-27B-CodeForge-3xMerge-i1-GGUF
• 文件：https://huggingface.co/mradermacher/Qwen3.8-27B-CodeForge-3xMerge-i1-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download mradermacher/Qwen3.8-27B-CodeForge-3xMerge-i1-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。