Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
Kromoss 的 GGUF 量化副本,Kromoss 是基于 MOSS-Image-Base 微调的 1024 像素文生图模型,用于 ComfyUI。适合想在显存有限的 GPU 上生成图像的画师。
Kromoss GGUF 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
models/diffusion_models/ models/text_encoders/ models/vae/
这个仓库存放 Kromoss 的 GGUF 量化副本,Kromoss 是在 MOSS-Image-Base 上以 1024 像素微调而成的文生图模型。它沿用了 MOSS-Image-SFT 的架构、文本编码器和 VAE,所以能放进现有的 MOSS-Image 工作流。量化后的文件让模型下载和运行都更小。
适合想在显存有限的显卡上根据文字生成图像的 ComfyUI 用户。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 设计 | 数字画师 | 根据文字提示词生成图片 | 根据一句简短描述制作概念图 |
| 营销 | 内容创作者 | 在本地机器上制作插图 | 用布局指定文字位置来制作横幅图 |
| 软件 | 工作流搭建者 | 换用更小的量化版来适配 GPU | 在 8 GB 显卡上选择更小的文件 |
如果你不用 ComfyUI 或支持 GGUF 的工具,可以跳过,因为这些文件面向的就是那种工作流。
它在 ComfyUI 里使用。标准量化版可以用兼容的 GGUF 工具加载,而两个自定义量化版需要 comfyui-gguf-reboot 加载节点。
| Use case | Who | What they get back |
|---|---|---|
| 文生图 | 画师 | 根据自然语言提示词生成的静态图像 |
| 标签式提示词 | 动漫和标签用户 | 根据一串标签生成的图像 |
| 布局提示词 | 设计师 | 按 JSON 布局放置文字和物体的图像 |
安装 comfyui-gguf-reboot 节点,下载一个 GGUF 文件,并放进 diffusion_models 文件夹。工作流还需要来自上游 MOSS-Image 文件的文本编码器和 VAE。模型卡附带了现成的工作流文件。
models/diffusion_models/ models/text_encoders/ models/vae/
pip install -U huggingface_hub hf download molbal/Kromoss-GGUF
用 UnetLoaderGGUFDynamicVRAM 节点加载 GGUF,然后用日常语言、标签或 JSON 布局写提示词。附带的工作流使用 50 步、CFG 3、euler 采样器和 sgm_uniform 调度器。图像尺寸必须是 16 的倍数。
| Tool | What it does |
|---|---|
| UnetLoaderGGUFDynamicVRAM | 从 diffusion_models 文件夹加载 Kromoss GGUF 文件 |
| Supplied workflow | 包含模型卡的参考采样设置 |
| Turbo LoRAs | 上游的 8 步 LoRA,用于更快生成 |
你加载 Q4_K_M 文件,输入描述一个场景的提示词,并在 1024 乘 1024 之类的尺寸下运行附带的工作流。它返回一张符合提示词的静态图像。
如果你是新手,先用较小的 Q4_K_M 文件和附带的工作流,只改提示词。更大的量化版用磁盘空间换取保真度。
如果你熟悉这个领域,这里提供五种量化版。这一组有三个常见的 GGML 量化版,另外还有 Q8_CR 和 Q4_CR_L,它们使用特殊的 ConvRot 布局,只能通过 comfyui-gguf-reboot 节点读取。采样设置包括第 22 层的跳层引导。
Q8_CR 和 Q4_CR_L 文件不能用通用的 GGUF 加载器。
Kromoss 的 GGUF 量化副本,Kromoss 是基于 MOSS-Image-Base 微调的 1024 像素文生图模型,用于 ComfyUI。适合想在显存有限的 GPU 上生成图像的画师。
由 molbal 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这个仓库存放 Kromoss 的 GGUF 量化副本,Kromoss 是在 MOSS-Image-Base 上以 1024 像素微调而成的文生图模型。它沿用了 MOSS-Image-SFT 的架构、文本编码器和 VAE,所以能放进现有的 MOSS-Image 工作流。量化后的文件让模型下载和运行都更小。
适合谁:适合想在显存有限的显卡上根据文字生成图像的 ComfyUI 用户。
Industry | Who uses it | How they use it | Example
设计 | 数字画师 | 根据文字提示词生成图片 | 根据一句简短描述制作概念图
营销 | 内容创作者 | 在本地机器上制作插图 | 用布局指定文字位置来制作横幅图
软件 | 工作流搭建者 | 换用更小的量化版来适配 GPU | 在 8 GB 显卡上选择更小的文件
如果你不用 ComfyUI 或支持 GGUF 的工具,可以跳过,因为这些文件面向的就是那种工作流。
用在哪里:它在 ComfyUI 里使用。标准量化版可以用兼容的 GGUF 工具加载,而两个自定义量化版需要 comfyui-gguf-reboot 加载节点。
Use case | Who | What they get back
文生图 | 画师 | 根据自然语言提示词生成的静态图像
标签式提示词 | 动漫和标签用户 | 根据一串标签生成的图像
布局提示词 | 设计师 | 按 JSON 布局放置文字和物体的图像
如何设置:安装 comfyui-gguf-reboot 节点,下载一个 GGUF 文件,并放进 diffusion_models 文件夹。工作流还需要来自上游 MOSS-Image 文件的文本编码器和 VAE。模型卡附带了现成的工作流文件。
models/diffusion_models/
models/text_encoders/
models/vae/
pip install -U huggingface_hub
hf download molbal/Kromoss-GGUF
如何使用:用 UnetLoaderGGUFDynamicVRAM 节点加载 GGUF,然后用日常语言、标签或 JSON 布局写提示词。附带的工作流使用 50 步、CFG 3、euler 采样器和 sgm_uniform 调度器。图像尺寸必须是 16 的倍数。
Tool | What it does
UnetLoaderGGUFDynamicVRAM | 从 diffusion_models 文件夹加载 Kromoss GGUF 文件
Supplied workflow | 包含模型卡的参考采样设置
Turbo LoRAs | 上游的 8 步 LoRA,用于更快生成
示例:你加载 Q4_K_M 文件,输入描述一个场景的提示词,并在 1024 乘 1024 之类的尺寸下运行附带的工作流。它返回一张符合提示词的静态图像。
新手与专家:如果你是新手,先用较小的 Q4_K_M 文件和附带的工作流,只改提示词。更大的量化版用磁盘空间换取保真度。
如果你熟悉这个领域,这里提供五种量化版。这一组有三个常见的 GGML 量化版,另外还有 Q8_CR 和 Q4_CR_L,它们使用特殊的 ConvRot 布局,只能通过 comfyui-gguf-reboot 节点读取。采样设置包括第 22 层的跳层引导。
文字提示词、标签或 JSON 布局
文本编码器读取提示词
量化后的 Kromoss 模型去噪
VAE 解码出静态图像
注意事项:Q8_CR 和 Q4_CR_L 文件不能用通用的 GGUF 加载器。
Title: 文件大小,单位 GiB
Q4_K_M: 3.35 GiB
Q4_CR_L: 3.56 GiB
Q6_K: 4.24 GiB
Q8_CR: 5.04 GiB
Q8_0: 5.31 GiB
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download molbal/Kromoss-GGUF
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Kromoss GGUF 本页 | 1,815 | 6 | 3.5B | apache-2.0 | |
| MOSS-Image-SFT GGUF共有 moss-image · comfyui · text-to-image | 18,762 | 22 | 5.1B | apache-2.0 | |
| MOSS-Image FP16-fixed共有 moss-image · comfyui · text-to-image | 0 | 38 | — | apache-2.0 | |
| MOSS-Image-heal共有 moss-image · comfyui · text-to-image | 0 | 76 | 5.1B | apache-2.0 | |
| MOSS-Image Lineart Control LoRA共有 moss-image · comfyui | 1,548 | 3 | — | apache-2.0 | |
| MOSS-Image Normal Control LoRA共有 moss-image · comfyui | 1,014 | 4 | — | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。