Qwen3.5-0.8B-GGUF

Qwen3.5-0.8B-GGUF

unsloth 制作的 Qwen3.5-0.8B 小型 GGUF 版本，能读图片和文字并用文字回答。适合在本地做原型、微调和研究。

由 unsloth 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 unsloth 制作的 Qwen3.5-0.8B 的 GGUF 版本。模型有 752M 参数，输入图片加文字，输出文字回答。Hugging Face 估计它在 4-bit 下的文件约为 376 MB，和更大的模型相比很小。

适合谁：想用小模型做原型、针对单一任务微调或其他研究的开发者和研究人员。原始模型卡把这些列为预期用途。

Title: Who uses it
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在本地电脑上做能读图片和文字的应用原型 | 在选择更大的模型之前，先试一遍图片加提问的流程
研究 | 研究人员 | 研究小型多模态模型的表现 | 把这个版本的回答和它的基础模型对比
教育 | 学生和老师 | 学习本地模型怎么下载和加载 | 取回文件、加载，再问一个简短的问题
机器学习 | 微调人员 | 从小型基础模型出发，做窄范围的单任务微调 | 让它把一组图片分到不同标签里

如果你需要在难题上得到最好的回答，可以跳过它，因为它的体量更适合测试和实验，不适合重负载工作。

用在哪里：

• Windows、macOS 或 Linux，下载步骤需要 Python
• 任何能打开 GGUF 文件的本地程序
• 你自己的微调环境，因为模型卡提到可以用 Unsloth 来做

Title: What it is used for
Use case | Who | What they get back
图片问答 | 开发者 | 针对你附上的图片给出文字回答
纯文字聊天 | 爱好者 | 来自超小模型的简短文字回复
微调的起点 | 研究人员 | 为单一窄任务准备的小型起点

如何设置：你需要一台装有 Python 和 pip 的电脑，以及一个能打开 GGUF 文件的程序。

• 已安装 Python 和 pip
• 有足够的磁盘空间放大约 376 MB 的文件
• 一个你自己选的支持 GGUF 的程序

1. 安装 Hugging Face hub 库。
2. 把这个仓库下载到你的电脑。
3. 在你的程序里打开下载好的 GGUF 文件。

pip install -U huggingface_hub
hf download unsloth/Qwen3.5-0.8B-GGUF

如何使用：先运行一次下载命令，再让你的 GGUF 程序指向保存的文件，给它发一张图片和一个问题。模型卡里链接了一份 Unsloth 的本地运行指南，运行步骤都在那份指南里。

Tool | What it does
pip | 安装或更新用来获取模型文件的库
hf download | 按名称获取一个仓库，并把它的文件保存到你的电脑上

示例：你附上一张路牌的照片，问：“这个路牌上写了什么？”模型读取图片，用纯文字回复。模型这么小，用之前请自己核对一下答案。

新手与专家：如果你是新手，可以把这个文件看成住在你自己电脑里的一个小助手，它能看图。先用上面两条命令下载，再针对一张图片问一个简单的问题。

如果你熟悉模型，请留意它的基础设计。模型卡列出 24 层，Gated DeltaNet 块和门控注意力块交替排列，另有视觉编码器、绑定的输出嵌入，以及原生 262,144 个词元的上下文。它还声称覆盖 201 种语言。量化到 4-bit 通常是用一点精度换取小得多的文件。

下载 GGUF 文件
在支持 GGUF 的程序中打开
发送图片和问题
读取文字回答

注意事项：

• License: Apache 2.0，记录中如此标明
• Cost to run: 没有列出费用，你只需要自己的电脑
• Data it reaches: 它会从 Hugging Face 下载文件，来源没有提到它触及其他内容
• Not for: 模型卡指向测试、微调和研究，而不是重负载的生产工作
• 376 MB 只是估计值，你实际得到的文件大小可能不同

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：752M
• Weights: about 376 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：340,375
• 点赞：252
• 许可证：apache-2.0
• 基于：Qwen/Qwen3.5-0.8B
• Quantized versions: 3
• Fine-tunes: 2
• 标签：transformers, gguf, unsloth, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF
• 文件：https://huggingface.co/unsloth/Qwen3.5-0.8B-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download unsloth/Qwen3.5-0.8B-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。