DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
KBlueLeaf 对 MOSS-Image-Base 文生图模型做的微调,缩小了其内部数据流里的极大值,同时让输出和基础模型保持接近。适合 ComfyUI 和 diffusers 用户以及数值研究人员。
MOSS-Image-heal 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download KBlueLeaf/MOSS-Image-heal
MOSS-Image-heal 是 KBlueLeaf 对文生图模型 MOSS-Image-Base 做的全量微调。这次微调缩小了 transformer 残差流里的极端值。最大的一个从 58,411 降到 3,083,远低于 fp16 的上限 65,504。只有 transformer 被训练过。管线里的其他部分,比如 VAE 和文本编码器,原样来自 MOSS-Image-Base。
想要内部数值更温和的 MOSS-Image 变体的图像生成开发者和 ComfyUI 用户,以及研究大激活值的研究人员。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 创意软件 | ComfyUI 用户 | 加载 bf16、fp16 或 int8 的单个文件 | 在工作流里使用 fp16 文件 |
| 软件 | Diffusers 开发者 | 用 diffusers 加载 transformer 文件夹 | 把它换进 MOSS-Image 管线 |
| 研究 | 数值研究人员 | 研究数据流里的值是如何被压低的 | 对比基础版本和 heal 版本的统计数据 |
如果你想要和基础模型明显不同的效果,可以跳过它,因为模型卡显示输出和它很接近。
| Use case | Who | What they get back |
|---|---|---|
| 用 diffusers 文生图 | 开发者 | 根据提示词生成的图片 |
| 在 ComfyUI 里生成图片 | 艺术家 | 加载单个文件的工作流所生成的图片 |
| 数值研究 | 研究人员 | 存有模型卡里每个数字和图表数值的报告 |
pip install -U huggingface_hub hf download KBlueLeaf/MOSS-Image-heal
像使用基础模型一样使用它,只是换上这个 transformer。模型卡的样例用了由标签加一句话组成的 caption 提示词,以及 GBC 提示词,每次都用同一个负面提示词。
| Tool | What it does |
|---|---|
| transformer 文件夹 | bf16 的 diffusers transformer |
| ComfyUI bf16 文件 | 带融合 qkv 的单个文件 |
| ComfyUI fp16 文件 | fp16 的单个文件 |
| ComfyUI int8 文件 | 组大小为 256 的单个 int8 ConvRot 文件 |
| reports 文件夹 | 存有模型卡里每个数字和图表数值 |
用模型卡样例的设置生成:16 步、CFG 3、shift 5、种子 0,使用 caption 提示词。生成的图片应该和基础模型在相同输入下做出的很接近。
如果你是新手,先在 ComfyUI 里试 fp16 单文件,用你在基础模型上用的同一个提示词,对比两张图。
如果你熟悉这个领域,模型卡报告残差流的 RMS 低了 7.5 倍,距离 fp16 最大值的余量是 21.2 倍,而基础模型是 1.12 倍。现在没有任何权重超过其张量 RMS 的 64 倍,之前有 349 个。流损失从 0.4280 变为 0.4289,与基础模型的速度余弦为 0.9983。
KBlueLeaf 对 MOSS-Image-Base 文生图模型做的微调,缩小了其内部数据流里的极大值,同时让输出和基础模型保持接近。适合 ComfyUI 和 diffusers 用户以及数值研究人员。
由 KBlueLeaf 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:MOSS-Image-heal 是 KBlueLeaf 对文生图模型 MOSS-Image-Base 做的全量微调。这次微调缩小了 transformer 残差流里的极端值。最大的一个从 58,411 降到 3,083,远低于 fp16 的上限 65,504。只有 transformer 被训练过。管线里的其他部分,比如 VAE 和文本编码器,原样来自 MOSS-Image-Base。
适合谁:想要内部数值更温和的 MOSS-Image 变体的图像生成开发者和 ComfyUI 用户,以及研究大激活值的研究人员。
Industry | Who uses it | How they use it | Example
创意软件 | ComfyUI 用户 | 加载 bf16、fp16 或 int8 的单个文件 | 在工作流里使用 fp16 文件
软件 | Diffusers 开发者 | 用 diffusers 加载 transformer 文件夹 | 把它换进 MOSS-Image 管线
研究 | 数值研究人员 | 研究数据流里的值是如何被压低的 | 对比基础版本和 heal 版本的统计数据
如果你想要和基础模型明显不同的效果,可以跳过它,因为模型卡显示输出和它很接近。
用在哪里:
Use case | Who | What they get back
用 diffusers 文生图 | 开发者 | 根据提示词生成的图片
在 ComfyUI 里生成图片 | 艺术家 | 加载单个文件的工作流所生成的图片
数值研究 | 研究人员 | 存有模型卡里每个数字和图表数值的报告
如何设置:
pip install -U huggingface_hub
hf download KBlueLeaf/MOSS-Image-heal
如何使用:像使用基础模型一样使用它,只是换上这个 transformer。模型卡的样例用了由标签加一句话组成的 caption 提示词,以及 GBC 提示词,每次都用同一个负面提示词。
Tool | What it does
transformer 文件夹 | bf16 的 diffusers transformer
ComfyUI bf16 文件 | 带融合 qkv 的单个文件
ComfyUI fp16 文件 | fp16 的单个文件
ComfyUI int8 文件 | 组大小为 256 的单个 int8 ConvRot 文件
reports 文件夹 | 存有模型卡里每个数字和图表数值
示例:用模型卡样例的设置生成:16 步、CFG 3、shift 5、种子 0,使用 caption 提示词。生成的图片应该和基础模型在相同输入下做出的很接近。
新手与专家:如果你是新手,先在 ComfyUI 里试 fp16 单文件,用你在基础模型上用的同一个提示词,对比两张图。
如果你熟悉这个领域,模型卡报告残差流的 RMS 低了 7.5 倍,距离 fp16 最大值的余量是 21.2 倍,而基础模型是 1.12 倍。现在没有任何权重超过其张量 RMS 的 64 倍,之前有 349 个。流损失从 0.4280 变为 0.4289,与基础模型的速度余弦为 0.9983。
官方文本编码器编码提示词
修复后的 transformer 去噪
官方 VAE 解码潜变量
输出一张图片
Title: 残差流里的最大值
基础模型: 58411 units
Heal: 3083 units
fp16 最大值: 65504 units
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download KBlueLeaf/MOSS-Image-heal
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| MOSS-Image-heal 本页 | 0 | 76 | 5.1B | apache-2.0 | |
| MOSS-Image FP16-fixed共有 fp16 · moss-image · comfyui | 0 | 38 | — | apache-2.0 | |
| MOSS-Image-SFT-4-steps共有 moss-image · text-to-image · diffusers | 73,131 | 96 | 5.1B | apache-2.0 | |
| Kromoss共有 moss-image · text-to-image · diffusers | 64,728 | 322 | 5.1B | apache-2.0 | |
| MOSS-Image-SFT共有 moss-image · text-to-image · diffusers | 22,963 | 950 | 5.1B | apache-2.0 | |
| MOSS-Image-Base共有 moss-image · text-to-image · diffusers | 13,535 | 656 | 5.1B | apache-2.0 |
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。