Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
这是一个基于 Qwen3-32B 的 32.8B 参数英语模型,有 8B、32B 和 70B 三个版本。这里的模型卡文字只有页面样式,所以没有写明具体用途。适合已经在关注这个模型系列的人。
Assistant_Pepe_32B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download SicariusSicariiStuff/Assistant_Pepe_32B
Assistant_Pepe_32B 是 SicariusSicariiStuff 的 328 亿参数英语语言模型,基于 Qwen3-32B 构建。模型卡列出这个系列的三种规模:8B、32B 和 70B。这里能看到的模型卡文字只是页面样式,没有描述,所以模型针对什么做过调整并没有说明。
适合已经在关注这个模型系列、想用它 32B 版本的人,许可证为 Apache 2.0。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 开发者 | 在自己的 GPU 上运行 32B 级模型 | 用自己应用里的提示词测试它 |
| 研究 | 机器学习研究人员 | 比较这个系列的三种规模 | 在 8B 和 32B 上运行同样的提示词 |
| 兴趣使用 | 本地模型用户 | 离线和中等规模的模型聊天 | 下载文件后试一试 |
| 工具 | 工具开发者 | 检查基于 Qwen3 的模型在自己技术栈里的表现 | 在本地测试环境里加载它 |
如果你需要有说明的用途、基准测试或示例输出,可以跳过它,因为这里的模型卡文字没有给出这些。
记录里只给出了 Safetensors 格式的文件。
| Use case | Who | What they get back |
|---|---|---|
| 本地文本生成 | 开发者 | 针对你发送的提示词的文字回复 |
| 规模比较 | 研究人员 | 可以在 8B、32B 和 70B 版本之间对比的输出 |
你需要 Python,以及大量空闲的磁盘和内存。
pip install -U huggingface_hub hf download SicariusSicariiStuff/Assistant_Pepe_32B
在你的运行时里加载下载好的文件夹,给它发提示词。这里给出的模型卡文字没有提示词格式或设置,请到仓库文件里查看聊天模板。
| Tool | What it does |
|---|---|
| hf download | 把仓库下载到你的电脑 |
| Runtime of your choice | 加载权重并生成文字 |
你下载文件,在本地运行时里加载,发送一个简短的问题。模型回复生成的文字,质量好不好由你按自己的用途判断。
如果你刚接触本地模型,先从这个系列较小的 8B 版本开始,再用 32B。问一个简短的问题,确认你的环境能用。
如果你熟悉这个领域:记录里写明基座是 Qwen3-32B,参数为 32.8B。这里的模型卡文字没有列出训练方法、数据或任何评测。
能看到的模型卡主要是样式规则,所以在依赖这个模型之前,请先到仓库页面看真正的说明。
这是一个基于 Qwen3-32B 的 32.8B 参数英语模型,有 8B、32B 和 70B 三个版本。这里的模型卡文字只有页面样式,所以没有写明具体用途。适合已经在关注这个模型系列的人。
由 SicariusSicariiStuff 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Assistant_Pepe_32B 是 SicariusSicariiStuff 的 328 亿参数英语语言模型,基于 Qwen3-32B 构建。模型卡列出这个系列的三种规模:8B、32B 和 70B。这里能看到的模型卡文字只是页面样式,没有描述,所以模型针对什么做过调整并没有说明。
适合谁:适合已经在关注这个模型系列、想用它 32B 版本的人,许可证为 Apache 2.0。
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在自己的 GPU 上运行 32B 级模型 | 用自己应用里的提示词测试它
研究 | 机器学习研究人员 | 比较这个系列的三种规模 | 在 8B 和 32B 上运行同样的提示词
兴趣使用 | 本地模型用户 | 离线和中等规模的模型聊天 | 下载文件后试一试
工具 | 工具开发者 | 检查基于 Qwen3 的模型在自己技术栈里的表现 | 在本地测试环境里加载它
如果你需要有说明的用途、基准测试或示例输出,可以跳过它,因为这里的模型卡文字没有给出这些。
用在哪里:记录里只给出了 Safetensors 格式的文件。
Use case | Who | What they get back
本地文本生成 | 开发者 | 针对你发送的提示词的文字回复
规模比较 | 研究人员 | 可以在 8B、32B 和 70B 版本之间对比的输出
如何设置:你需要 Python,以及大量空闲的磁盘和内存。
pip install -U huggingface_hub
hf download SicariusSicariiStuff/Assistant_Pepe_32B
如何使用:在你的运行时里加载下载好的文件夹,给它发提示词。这里给出的模型卡文字没有提示词格式或设置,请到仓库文件里查看聊天模板。
Tool | What it does
hf download | 把仓库下载到你的电脑
Runtime of your choice | 加载权重并生成文字
示例:你下载文件,在本地运行时里加载,发送一个简短的问题。模型回复生成的文字,质量好不好由你按自己的用途判断。
新手与专家:如果你刚接触本地模型,先从这个系列较小的 8B 版本开始,再用 32B。问一个简短的问题,确认你的环境能用。
如果你熟悉这个领域:记录里写明基座是 Qwen3-32B,参数为 32.8B。这里的模型卡文字没有列出训练方法、数据或任何评测。
用 hf 下载文件
在运行时里加载
发送提示词
读取生成的文字
注意事项:能看到的模型卡主要是样式规则,所以在依赖这个模型之前,请先到仓库页面看真正的说明。
Title: 权重大小,单位 GB
BF16: 65.5 GB
4-bit (estimate): 16.4 GB
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download SicariusSicariiStuff/Assistant_Pepe_32B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Assistant_Pepe_32B 本页 | 1,013 | 89 | 32.8B | apache-2.0 | |
| Qwen3-0.6B共有 qwen3 · safetensors | 19,718,599 | 1,894 | 752M | apache-2.0 | |
| Qwen3-14B共有 qwen3 · safetensors | 12,965,376 | 540 | 14.8B | apache-2.0 | |
| Qwen3-Embedding-0.6B共有 qwen3 · safetensors | 8,761,091 | 1,346 | 596M | apache-2.0 | |
| Qwen3-8B共有 qwen3 · safetensors | 6,269,141 | 2,184 | 8.2B | apache-2.0 | |
| Qwen3-1.7B共有 qwen3 · safetensors | 3,203,490 | 618 | 2B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。