Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
这是一个紧凑的 4.2B 文本生成模型,基于 Qwen 3 4B 后训练,更适配 Underdog 自己的配套环境,并量化为 4-bit MLX 格式。适合在非商业场景下运行小型本地模型的人。
Underdog-Woof-4B-1.1 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download ConwayResearch/Underdog-Woof-4B-1.1
Underdog-Woof-4B-1.1 是 ConwayResearch 发布的小型文本生成模型。作者对 Qwen 3 4B 做了后训练,让它更适配 Underdog 自己的配套环境,再量化为 4-bit MLX 格式。Hugging Face 标注有 4.2B 参数、Safetensors 文件,语言为英语。
想要一个紧凑模型、在 MLX 工具里运行、并且只用于非商业用途的人。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件开发 | 使用 MLX 的开发者 | 在基于 MLX 的工具里加载量化文件 | 在选择更大的模型之前,先试一个小型本地模型 |
| 研究 | 做非商业项目的研究者 | 把它当作小型英语文本生成器来运行 | 把 4-bit 模型和其他小模型做对比 |
| 兴趣项目 | 在家做实验的人 | 下载文件并在自己的电脑上测试 | 看看 4B 模型处理日常文字的表现 |
如果你需要无需另行授权的商业用途,或需要英语以外的语言,可以跳过它。
它面向 MLX 工具,文件可以在 Windows、macOS 或 Linux 上下载。
| Use case | Who | What they get back |
|---|---|---|
| 小型本地文本生成 | 开发者 | 来自紧凑模型的英语文本 |
| 配套环境测试 | 使用 Underdog 配套环境的人 | 为该配套环境调优过的模型 |
| 量化研究 | 研究者 | 一个可用来对比的 4-bit MLX 示例 |
你需要 Python 和足够的磁盘空间。Hugging Face 标注权重约 16.8 GB,以 U32 存储。
pip install -U huggingface_hub hf download ConwayResearch/Underdog-Woof-4B-1.1
模型卡本身没有给出运行命令,请打开 Hugging Face 上的模型页面查看如何加载。它列出的唯一命令是下载文件。
| Tool | What it does |
|---|---|
| hf download | 把模型文件下载到你的电脑 |
你用 Hugging Face 命令行工具下载这个模型。模型文件会保存到你的电脑上,随时可以在基于 MLX 的工具里加载。
如果你刚接触这类模型,先下载文件,确认文件都到齐。然后在支持 MLX 的工具里加载,试一条简短的英语提示词。
如果你熟悉这个领域,它就是经过针对 Underdog 配套环境 后训练的 Qwen 3 4B,以 4-bit MLX 形式保存。模型卡没有说明 配套环境和训练数据,所以请在你自己的任务上测试。
模型卡很短,没有给出基准测试和训练细节。
这是一个紧凑的 4.2B 文本生成模型,基于 Qwen 3 4B 后训练,更适配 Underdog 自己的配套环境,并量化为 4-bit MLX 格式。适合在非商业场景下运行小型本地模型的人。
由 ConwayResearch 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Underdog-Woof-4B-1.1 是 ConwayResearch 发布的小型文本生成模型。作者对 Qwen 3 4B 做了后训练,让它更适配 Underdog 自己的配套环境,再量化为 4-bit MLX 格式。Hugging Face 标注有 4.2B 参数、Safetensors 文件,语言为英语。
适合谁:想要一个紧凑模型、在 MLX 工具里运行、并且只用于非商业用途的人。
Industry | Who uses it | How they use it | Example
软件开发 | 使用 MLX 的开发者 | 在基于 MLX 的工具里加载量化文件 | 在选择更大的模型之前,先试一个小型本地模型
研究 | 做非商业项目的研究者 | 把它当作小型英语文本生成器来运行 | 把 4-bit 模型和其他小模型做对比
兴趣项目 | 在家做实验的人 | 下载文件并在自己的电脑上测试 | 看看 4B 模型处理日常文字的表现
如果你需要无需另行授权的商业用途,或需要英语以外的语言,可以跳过它。
用在哪里:它面向 MLX 工具,文件可以在 Windows、macOS 或 Linux 上下载。
Use case | Who | What they get back
小型本地文本生成 | 开发者 | 来自紧凑模型的英语文本
配套环境测试 | 使用 Underdog 配套环境的人 | 为该配套环境调优过的模型
量化研究 | 研究者 | 一个可用来对比的 4-bit MLX 示例
如何设置:你需要 Python 和足够的磁盘空间。Hugging Face 标注权重约 16.8 GB,以 U32 存储。
pip install -U huggingface_hub
hf download ConwayResearch/Underdog-Woof-4B-1.1
如何使用:模型卡本身没有给出运行命令,请打开 Hugging Face 上的模型页面查看如何加载。它列出的唯一命令是下载文件。
Tool | What it does
hf download | 把模型文件下载到你的电脑
示例:你用 Hugging Face 命令行工具下载这个模型。模型文件会保存到你的电脑上,随时可以在基于 MLX 的工具里加载。
新手与专家:如果你刚接触这类模型,先下载文件,确认文件都到齐。然后在支持 MLX 的工具里加载,试一条简短的英语提示词。
如果你熟悉这个领域,它就是经过针对 Underdog 配套环境 后训练的 Qwen 3 4B,以 4-bit MLX 形式保存。模型卡没有说明 配套环境和训练数据,所以请在你自己的任务上测试。
Qwen 3 4B 基础模型
针对 Underdog 自己的配套环境 后训练
量化为 4-bit MLX
你下载并加载文件
注意事项:模型卡很短,没有给出基准测试和训练细节。
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download ConwayResearch/Underdog-Woof-4B-1.1
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Underdog-Woof-4B-1.1 本页 | 1,052 | 26 | 4.2B | cc-by-nc-4.0 | |
| Qwen3.5-9B-OptiQ-4bit共有 4bit · 4-bit · qwen3_5 | 6,547 | 114 | 9B | apache-2.0 | |
| Qwen3.8-27B-QUASAR-NVFP4共有 4bit · qwen3_5 · safetensors | 119,414 | 164 | 27.8B | apache-2.0 | |
| Qwen3.8-27B-4bit (MLX)共有 4-bit · qwen3_5 · conversational | 110,370 | 240 | 27.4B | apache-2.0 | |
| Qwen3.8-27B-oQ4e-mtp共有 4-bit · qwen3_5 · conversational | 37,954 | 86 | 27.8B | apache-2.0 | |
| clef-flash-4bit共有 4-bit · qwen3_5 · safetensors | 3,524 | 40 | 9.4B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。