Qwen3.8-27B-GGUF

Qwen3.8-27B-GGUF

以 GGUF 文件形式运行 Qwen3.8-27B，这是一个 26.9B 的模型，能读图片和文字并用文字回复，通过 llama 工具在本机使用，适合想把它放在自己电脑上的你。

由 ggml-org 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 Qwen3.8-27B 的 GGUF 副本，这个模型能读取图片和文字并用文字作答。ggml-org 通过自动转换制作了它。Hugging Face 估计 4 位权重约 13.4 GB，页面本身除了运行步骤几乎没有别的内容。

适合谁：如果你想通过 llama 工具，在自己的电脑上试用一个 26.9B 的图文模型，它适合你。

Title: Who uses this model
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 在本地提供能读图片和文字的模型 | 启动 serve 命令并向它提问
研究 | 机器学习爱好者 | 测试 26.9B 模型在 GGUF 形式下的表现 | 和其他量化副本做对比
教育 | 学生 | 了解本地模型服务是怎么运作的 | 运行 serve 命令并和模型聊天

如果你需要有文档和基准测试的模型，可以跳过它，因为页面对模型几乎没有介绍。

用在哪里：

• Llama 应用
• 终端，使用 llama serve 命令
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

Title: Jobs it does
用途 | 适合谁 | 得到什么
本地聊天 | 电脑配置足够的人 | 在自己电脑上运行的模型给出的文字回复
图片提问 | 开发者 | 针对你提供的图片给出的文字回答
文件下载 | 爱折腾的人 | 保存到本地文件夹的 GGUF 文件

如何设置：你需要一种运行模型的方式，以及足够放下它的磁盘空间。

• Llama 应用，或终端里的 llama 命令
• 带 pip 的 Python，如果你只想要文件
• 约 13.4 GB 的权重空间，这只是估算值

1. 安装 Llama 应用，或确认终端里的 llama 命令可用。
2. 带上仓库名运行 serve 命令，模型就会从中加载。
3. 如果只想保存文件，就安装 huggingface_hub 并改用下载命令。

llama serve -hf ggml-org/Qwen3.8-27B-GGUF

pip install -U huggingface_hub
hf download ggml-org/Qwen3.8-27B-GGUF

如何使用：启动 serve 命令，模型就会从命令里指定的仓库启动。Llama 应用不用终端也能完成同样的事。如果你想在本地留一份副本，可以用下载命令保存文件。

Title: Main commands
工具 | 作用
llama serve | 从命令里指定的仓库启动模型
hf download | 把仓库里的文件保存到你的电脑

示例：你用 serve 命令启动模型，然后给它一张截图，问图里是什么。作为图文模型，它会用纯文字作答。

新手与专家：这类模型会读一张图片加一个问题，然后写出答案。最简单的第一步是用 Llama 应用，它不需要任何命令。如果你更喜欢终端，serve 命令也能做到同样的事。

GGUF 是用于本地运行模型的单文件格式。把权重存成 4 位，是用一点精度换更小的下载体积，13.4 GB 这个数字是 Hugging Face 的估算。基础模型是 Qwen/Qwen3.8-27B，模型卡还列出了 incoai 的另一个来源模型 Qwen3.8-27B-DFlash2。

Qwen3.8-27B 基础模型
自动转换成 GGUF
ggml-org 仓库
llama serve 或 Llama 应用
在本地得到文字回复

注意事项：模型卡很短，还留着补充信息的待办说明，所以没有基准测试，也没有使用限制。其他人做了四个量化版本，没有一个是微调版。

• License: Apache-2.0。
• Cost to run: 未提及。
• Data it reaches: 文件来自 Hugging Face，之后模型在你自己的电脑上运行。
• Not for: 模型卡没有写任何限制，所以使用前请先查看原版 Qwen 模型页面。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 参数量：26.9B
• Weights: about 13.4 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：1,000,687
• 点赞：157
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.8-27B
• Quantized versions: 4
• 标签：gguf, quantized, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/ggml-org/Qwen3.8-27B-GGUF
• 文件：https://huggingface.co/ggml-org/Qwen3.8-27B-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ggml-org/Qwen3.8-27B-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。