MOSS-Image-SFT GGUF

MOSS-Image-SFT GGUF

MOSS-Image-SFT 扩散 Transformer 的非官方 GGUF 文件，有 Q8_0 和 Q4_K_S 两种，用 stable-diffusion.cpp 在本地做文字生成图像。需要另外准备 Qwen3.5-9B 编码器、分词器和 VAE。

由 axiomofmind 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：有人把 MOSS-Image-SFT 转成了 GGUF 文件。MOSS-Image-SFT 是一个约 5B 的文字生成图像扩散 Transformer，由 MOSS-Image-Base 微调而来。这些文件只包含扩散 Transformer，另外三个部分要从别处获取：作为文本编码器的 Qwen3.5-9B 语言模型、MOSS 的分词器，以及共用的 MOSS 和 FLUX.2 自编码器。它们是给扩散运行时用的，所以 Ollama、LM Studio 和 llama.cpp 的文字聊天用不了它们。

适合谁：它适合想用更小的文件在本地运行 MOSS-Image、并且习惯用命令行工具的人。

行业 | 谁在用 | 怎么用 | 例子
数字艺术 | 插画师 | 在自己的机器上生成概念图 | 用一条很长的文字提示词生成一个场景
产品设计 | 设计师 | 不用托管服务，直接用文字勾勒视觉想法 | 测试一张情绪图
软件 | 开发者 | 把模型接入本地的图像流程 | 在脚本里运行 sd-cli
研究 | 爱好者和研究人员 | 用同一条提示词比较 Q8_0 和 Q4_K_S 的输出 | 对照文件大小检查画质

如果你想要文字聊天模型，或者一键使用的应用，可以跳过它。

用在哪里：你用一个能理解 MOSS-Image 格式的扩散运行时来运行它。

• stable-diffusion.cpp，通过它的 sd-cli 程序
• ComfyUI，只能通过一条实验性的社区 GGUF 路线
• 装有 Python 的 Windows、macOS 或 Linux，用来下载文件

场景 | 适合谁 | 得到什么
本地文字生成图像 | 创作者 | 根据文字提示词得到一张 1024 乘 1024 的 png
低显存运行 | 显存有限的人 | 打开 CPU 卸载选项后的输出
量化比较 | 研究人员 | Q8_0 与更小的 Q4_K_S 的结果对比

如何设置：除了 Transformer 文件，你还需要 MOSS 流程里的另外三个部分。编码器和 VAE 是特意不复制进这个仓库的。

• 一个 Qwen3.5-9B 文本编码器，例如 Q4_K_M 的 GGUF
• 取自 MOSS 发布版的 tokenizer.json 文件，必须在命令里指明它，因为 MOSS 有自己的词表
• 官方的 MOSS 和 FLUX.2 VAE 文件 diffusion_pytorch_model.safetensors

1. 获取 stable-diffusion.cpp，其中包含 sd-cli 程序。
2. 从这个仓库下载你想要的 Transformer 文件。
3. 下载编码器、分词器和 VAE。
4. 用这四个文件和你的提示词运行 sd-cli。

pip install -U huggingface_hub
hf download axiomofmind/Moss-Image-SFT-GGUF

如何使用：用 Transformer、编码器、VAE 和分词器文件，加上你的采样设置来运行 sd-cli。显存不够时加上 CPU 卸载参数，想要更小的体积就换成 Q4_K_S 文件。

工具 | 作用
sd-cli.exe | 从命令行运行图像生成
--diffusion-model | 指向 MOSS Transformer 的 GGUF 文件
--llm | 指向 Qwen3.5-9B 文本编码器
--offload-to-cpu | 显存有限时把部分内容移到 CPU

sd-cli.exe `
  --diffusion-model MOSS-Image-SFT-Q8_0.gguf `
  --llm Qwen3.5-9B-Q4_K_M.gguf `
  --vae diffusion_pytorch_model.safetensors `
  --tokenizer tokenizer.json `
  --cfg-scale 3 `
  --steps 50 `
  --sampling-method euler `
  --scheduler discrete `
  --flow-shift 5 `
  --seed 42 `
  --rng cpu `
  --sampler-rng cpu `
  -W 1024 -H 1024 `
  -p "A vast abandoned Art Deco railway concourse transformed into a lush indoor botanical garden, tall arched windows, brass clocks, patterned terrazzo floor, morning sunbeams through mist, tiny visitors for scale, highly detailed architectural photography, natural colors." `
  -o moss-sft-q8.png

示例：你用 Q8_0 文件和一条关于长满植物的废弃火车站大厅的提示词运行上面的命令。它会写出 1024 乘 1024 像素的 moss-sft-q8.png，使用 50 步和 3 的引导系数。

新手与专家：GGUF 是一种紧凑的文件格式，扩散 Transformer 是图像模型里负责塑造画面的部分。先用 Q8_0 文件和示例命令，只改提示词。

对行家来说，Q4_K_S 是混合精度。42 个 ffn_down 矩阵加上四个靠前的 value 投影采用 Q5_K，嵌入、归一化和输出张量则保持源模型的精度。OpenMOSS 用户指南推荐使用流匹配 Euler 采样器、偏移 5.0，并在负分支里跳过从零开始计数的第 22 层。

你选 Q8_0 或 Q4_K_S
sd-cli 连同编码器和 VAE 一起加载它
分词器把你的提示词变成词元
Transformer 用 50 步去噪
写出一个 png 文件

注意事项：官方的 OpenMOSS ComfyUI 插件不加载这些 GGUF 文件。有一条实验性的社区路线，但模型卡说画质是否与原版一致、每个量化档位是否可靠都没有经过认证。官方指南建议使用约 1M、1.5M 或 2M 像素，边长要能被 16 整除。

Title: 磁盘上的文件大小
MOSS-Image-SFT Q8_0: 5.314 GiB
MOSS-Image-SFT Q4_K_S: 3.226 GiB

• License: Apache 2.0，按 Hugging Face 所列
• Cost to run: 未提及
• Data it reaches: 你的提示词和你下载的模型文件
• Not for: 在 Ollama、LM Studio 或 llama.cpp 里做文字生成，因为这些是图像模型文件

Hugging Face 上的数据（2026年11月13日）

• 任务：text to image
• 参数量：5.1B
• Weights: about 2.5 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：18,762
• 点赞：22
• 许可证：apache-2.0
• 语言：en, zh
• 基于：OpenMOSS-Team/MOSS-Image-SFT
• 标签：gguf, moss-image, text-to-image, image-generation, stable-diffusion.cpp, comfyui

链接

• 模型：https://huggingface.co/axiomofmind/Moss-Image-SFT-GGUF
• 文件：https://huggingface.co/axiomofmind/Moss-Image-SFT-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download axiomofmind/Moss-Image-SFT-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。