Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
MOSS-Image Base 和 SFT 的图像 transformer,权重经过重新缩放,可在 fp16 下运行而不溢出,输出保持一致。适用于 diffusers、ComfyUI 和 KohakuMoss。
MOSS-Image FP16-fixed 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download KBlueLeaf/MOSS-Image-FP16-fixed
这是 Base 和 SFT 两个版本的 MOSS-Image,权重内部做了一处修改:在各块之间传递数值的累加流被除以 16。这样 fp16 就有了充足的余量,而以前只有约 5%。
据模型卡说,结果与官方模型在舍入误差内一致,并且比原版 bf16 文件更贴近 fp32 参考。只有 transformer 发生了变化。其余都保持官方原样,包括文本编码器和分词器,以及 VAE、调度器和流水线代码。
适合在 diffusers 或 ComfyUI 里用 MOSS-Image 生成图片、想让 fp16 安全运行的人,尤其是在大尺寸或使用 LoRA 和微调模型时。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 设计 | ComfyUI 里的图像生成者 | 在更大的画布上运行 fp16 | 不再变黑的 2560 x 2560 渲染 |
| 软件 | 流水线开发者 | 在 fp16 下使用 diffusers 的 transformer | 在支持 fp16 的 GPU 上提供图像服务 |
| 研究 | 模型爱好者 | 在上面加 LoRA 或微调 | 训练适配器而不溢出 |
如果你已经在 bf16 或 fp32 下运行得很顺,或者想用别的图像模型,可以跳过它。
这些文件面向三个地方,模型卡列出了哪个文件用在哪里。
| Use case | Who | What they get back |
|---|---|---|
| 安全的 fp16 生成 | ComfyUI 用户 | 大尺寸下没有 NaN 或黑图的图片 |
| Diffusers 流水线 | 开发者 | 与官方配置一致的 fp16 transformer |
| 在上面微调 | 训练者 | 加 LoRA 或微调时有更多余量 |
你需要 Python 和 Hugging Face 工具来获取文件,再选其中一个运行工具。模型卡说文本编码器和 VAE 来自官方或 Comfy-Org 的发布。
pip install -U huggingface_hub hf download KBlueLeaf/MOSS-Image-FP16-fixed
选择 Base 或 SFT,然后在你的工具里加载对应的文件。在 ComfyUI 里用单文件检查点,在 diffusers 里加载 transformer 文件夹。模型卡没有给出运行命令。
| File | Used for |
|---|---|
| base/transformer and sft/transformer | fp16 的 diffusers MOSSImageTransformer |
| moss_image_base_fp16_fixed.safetensors | Base 的 ComfyUI 单文件 |
| moss_image_sft_fp16_fixed.safetensors | SFT 的 ComfyUI 单文件 |
| reports 文件夹 | 本页数字背后的逐图数据 |
你在 ComfyUI 里用 fp16 加载修复后的 Base 文件,渲染一张 2560 x 2560 的图。模型卡说官方文件在这个尺寸会变黑,而修复后的权重保持有限。
如果你是新手,这是同一个图像模型,只是调整了内部数值,让它们小到足以用 fp16。把它换到你原来用官方文件的地方,先渲染一张普通图片。
如果你熟悉这个领域:残差流在 42 个块中的第 26 块附近峰值约 62,000,刚好低于 fp16 的上限 65,504。在权重内部缩放 1/16 后,那里有 16.9 倍的余量。模型卡用 189 次前向和真实的 50 步采样来证明这一点。
官方文件在 fp16 下通过了作者做的所有测试,直到 2048 x 2048,然后在 2560 x 2560 的第 29 步(共 50 步)失败。修复后的权重保留了大得多的余量。
MOSS-Image Base 和 SFT 的图像 transformer,权重经过重新缩放,可在 fp16 下运行而不溢出,输出保持一致。适用于 diffusers、ComfyUI 和 KohakuMoss。
由 KBlueLeaf 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:这是 Base 和 SFT 两个版本的 MOSS-Image,权重内部做了一处修改:在各块之间传递数值的累加流被除以 16。这样 fp16 就有了充足的余量,而以前只有约 5%。
据模型卡说,结果与官方模型在舍入误差内一致,并且比原版 bf16 文件更贴近 fp32 参考。只有 transformer 发生了变化。其余都保持官方原样,包括文本编码器和分词器,以及 VAE、调度器和流水线代码。
适合谁:适合在 diffusers 或 ComfyUI 里用 MOSS-Image 生成图片、想让 fp16 安全运行的人,尤其是在大尺寸或使用 LoRA 和微调模型时。
Industry | Who uses it | How they use it | Example
设计 | ComfyUI 里的图像生成者 | 在更大的画布上运行 fp16 | 不再变黑的 2560 x 2560 渲染
软件 | 流水线开发者 | 在 fp16 下使用 diffusers 的 transformer | 在支持 fp16 的 GPU 上提供图像服务
研究 | 模型爱好者 | 在上面加 LoRA 或微调 | 训练适配器而不溢出
如果你已经在 bf16 或 fp32 下运行得很顺,或者想用别的图像模型,可以跳过它。
用在哪里:这些文件面向三个地方,模型卡列出了哪个文件用在哪里。
Use case | Who | What they get back
安全的 fp16 生成 | ComfyUI 用户 | 大尺寸下没有 NaN 或黑图的图片
Diffusers 流水线 | 开发者 | 与官方配置一致的 fp16 transformer
在上面微调 | 训练者 | 加 LoRA 或微调时有更多余量
如何设置:你需要 Python 和 Hugging Face 工具来获取文件,再选其中一个运行工具。模型卡说文本编码器和 VAE 来自官方或 Comfy-Org 的发布。
pip install -U huggingface_hub
hf download KBlueLeaf/MOSS-Image-FP16-fixed
如何使用:选择 Base 或 SFT,然后在你的工具里加载对应的文件。在 ComfyUI 里用单文件检查点,在 diffusers 里加载 transformer 文件夹。模型卡没有给出运行命令。
File | Used for
base/transformer and sft/transformer | fp16 的 diffusers MOSSImageTransformer
moss_image_base_fp16_fixed.safetensors | Base 的 ComfyUI 单文件
moss_image_sft_fp16_fixed.safetensors | SFT 的 ComfyUI 单文件
reports 文件夹 | 本页数字背后的逐图数据
示例:你在 ComfyUI 里用 fp16 加载修复后的 Base 文件,渲染一张 2560 x 2560 的图。模型卡说官方文件在这个尺寸会变黑,而修复后的权重保持有限。
新手与专家:如果你是新手,这是同一个图像模型,只是调整了内部数值,让它们小到足以用 fp16。把它换到你原来用官方文件的地方,先渲染一张普通图片。
如果你熟悉这个领域:残差流在 42 个块中的第 26 块附近峰值约 62,000,刚好低于 fp16 的上限 65,504。在权重内部缩放 1/16 后,那里有 16.9 倍的余量。模型卡用 189 次前向和真实的 50 步采样来证明这一点。
官方权重的峰值接近 fp16 上限
把残差流缩小到 1/16
在 fp16 下运行,余量充足
舍入误差内得到相同的图片
注意事项:官方文件在 fp16 下通过了作者做的所有测试,直到 2048 x 2048,然后在 2560 x 2560 的第 29 步(共 50 步)失败。修复后的权重保留了大得多的余量。
Title: 第 26 块距 fp16 上限的余量,倍数
官方权重: 1.05 倍
修复后的权重: 16.9 倍
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download KBlueLeaf/MOSS-Image-FP16-fixed
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| MOSS-Image FP16-fixed 本页 | 0 | 38 | — | apache-2.0 | |
| MOSS-Image-heal共有 fp16 · moss-image · comfyui | 0 | 76 | 5.1B | apache-2.0 | |
| MOSS-Image-SFT-4-steps共有 moss-image · text-to-image · diffusers | 73,131 | 96 | 5.1B | apache-2.0 | |
| Kromoss共有 moss-image · text-to-image · diffusers | 64,728 | 322 | 5.1B | apache-2.0 | |
| MOSS-Image-SFT共有 moss-image · text-to-image · diffusers | 22,963 | 950 | 5.1B | apache-2.0 | |
| MOSS-Image-Base共有 moss-image · text-to-image · diffusers | 13,535 | 656 | 5.1B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。