Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
用一个 4B 的混合架构模型处理文字和图片输入,支持 201 种语言和方言,上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。
Qwen3.5-4B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Qwen/Qwen3.5-4B
Qwen3.5-4B 是 Qwen 推出的小型多模态语言模型,是一个带视觉编码器的因果语言模型。它能读文字和图片。模型卡说它采用高效的混合架构,支持 201 种语言和方言。这个仓库放的是 Hugging Face Transformers 格式的后训练权重。
适合想在普通硬件上用小型开放权重模型处理文字和图像任务的开发者,也适合需要广泛语言覆盖的团队。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 开发者 | 在本地运行小型多模态模型 | 回答关于一张截图的问题 |
| 本地化 | 全球化团队 | 用一个模型处理多种语言和方言 | 用多种语言起草回复 |
| 研究 | 对比小模型的团队 | 对照模型卡的基准表来检查它 | 把它和 Qwen3.5-9B 做对比 |
需要最高模型质量的人可以跳过它,因为这是该系列里 4B 的那个。
| 用途 | 谁用 | 得到什么 |
|---|---|---|
| 文字和图片提问 | 开发者 | 同时用到文字和图片的回答 |
| 多语言聊天 | 全球化团队 | 覆盖 201 种语言和方言的回复 |
| 长文档 | 分析师 | 262,144 个 token 的上下文窗口,可扩展到 1,010,000 |
你需要先准备:
pip install -U huggingface_hub hf download Qwen/Qwen3.5-4B
下载文件,在模型卡提到的某个引擎里加载,然后和模型聊天,需要的话也可以带图片。这里的模型卡文字没有运行命令,所以请按它的模型卡查看具体调用。
开发者可以在 Transformers 里加载这个模型,把一张图片和一段简短的文字提示一起交给它提问。模型会同时读取两者,并用文字回答。
这是一个能读文字和图片的小模型。它的文件够轻,适合第一次尝试,而量化副本更小,Hugging Face 上列出了其他人做的 640 个。
模型卡描述了 32 层,排成八组,每组是三个 Gated DeltaNet 块加一个 Gated Attention 块,每个块后面接一个前馈网络。隐藏维度是 2560,词表嵌入与输出绑定。多 token 预测分多步训练。模型卡说,训练把强化学习扩展到了百万智能体规模的环境。
用一个 4B 的混合架构模型处理文字和图片输入,支持 201 种语言和方言,上下文为 262,144 个 token。适合在 transformers、vLLM 或 SGLang 里运行小型开放权重的开发者。
由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Qwen3.5-4B 是 Qwen 推出的小型多模态语言模型,是一个带视觉编码器的因果语言模型。它能读文字和图片。模型卡说它采用高效的混合架构,支持 201 种语言和方言。这个仓库放的是 Hugging Face Transformers 格式的后训练权重。
适合谁:适合想在普通硬件上用小型开放权重模型处理文字和图像任务的开发者,也适合需要广泛语言覆盖的团队。
行业 | 谁在用 | 怎么用 | 例子
软件 | 开发者 | 在本地运行小型多模态模型 | 回答关于一张截图的问题
本地化 | 全球化团队 | 用一个模型处理多种语言和方言 | 用多种语言起草回复
研究 | 对比小模型的团队 | 对照模型卡的基准表来检查它 | 把它和 Qwen3.5-9B 做对比
需要最高模型质量的人可以跳过它,因为这是该系列里 4B 的那个。
用在哪里:
用途 | 谁用 | 得到什么
文字和图片提问 | 开发者 | 同时用到文字和图片的回答
多语言聊天 | 全球化团队 | 覆盖 201 种语言和方言的回复
长文档 | 分析师 | 262,144 个 token 的上下文窗口,可扩展到 1,010,000
如何设置:
你需要先准备:
pip install -U huggingface_hub
hf download Qwen/Qwen3.5-4B
如何使用:下载文件,在模型卡提到的某个引擎里加载,然后和模型聊天,需要的话也可以带图片。这里的模型卡文字没有运行命令,所以请按它的模型卡查看具体调用。
示例:开发者可以在 Transformers 里加载这个模型,把一张图片和一段简短的文字提示一起交给它提问。模型会同时读取两者,并用文字回答。
新手与专家:这是一个能读文字和图片的小模型。它的文件够轻,适合第一次尝试,而量化副本更小,Hugging Face 上列出了其他人做的 640 个。
模型卡描述了 32 层,排成八组,每组是三个 Gated DeltaNet 块加一个 Gated Attention 块,每个块后面接一个前馈网络。隐藏维度是 2560,词表嵌入与输出绑定。多 token 预测分多步训练。模型卡说,训练把强化学习扩展到了百万智能体规模的环境。
用 hf 下载权重
在支持的引擎里加载
发送文字或图片和提示词
阅读回复
注意事项:
Title: Context length in tokens
Native: 262,144 tokens
Extended: 1,010,000 tokens
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Qwen/Qwen3.5-4B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Qwen3.5-4B 本页 | 5,083,722 | 1,226 | 4.7B | apache-2.0 | |
| Qwen3.8-27B共有 qwen3_5 · image-text-to-text · conversational | 6,960,395 | 19,795 | 27.8B | apache-2.0 | |
| Qwen3.5-9B共有 qwen3_5 · image-text-to-text · conversational | 6,259,809 | 2,353 | 9.7B | apache-2.0 | |
| Qwen3.8-27B-FP8共有 qwen3_5 · image-text-to-text · conversational | 5,442,810 | 984 | 27.8B | apache-2.0 | |
| Qwen3.5-2B共有 qwen3_5 · image-text-to-text · conversational | 4,044,746 | 479 | 2.3B | apache-2.0 | |
| Qwen3.5-0.8B共有 qwen3_5 · image-text-to-text · conversational | 3,286,957 | 837 | 873M | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。