Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
这个模型同时读图像和文字并用文字回答,是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。
Qwen3.5-122B-A10B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Qwen/Qwen3.5-122B-A10B
Qwen3.5-122B-A10B 是 Qwen 团队的大型开源模型,接收图像和文字输入,用文字回复。它总共有 1220 亿参数,每个 token 激活 100 亿,支持 201 种语言和方言。这个仓库里放的是 Transformers 格式的后训练权重。
适合有高性能 GPU 硬件、想用开源视觉语言模型做推理、编程和智能体工作的团队,许可证为 Apache 2.0。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 开发者 | 同时针对截图、图表和代码提问 | 解释截图里显示的一个错误 |
| AI 产品 | 智能体开发者 | 运行能读网页和图像的智能体 | 读一张图表并说明趋势 |
| 全球服务 | 本地化团队 | 用 201 种语言和方言服务用户 | 用印地语回答一个支持问题 |
| 研究 | 机器学习研究人员 | 研究混合专家结构的视觉语言模型 | 把它和较小的 Qwen3.5 模型比较 |
如果你只有一块消费级 GPU,可以跳过它,因为光是 4-bit 的估算就要约 62.5 GB。
模型卡说这些文件能配合多种部署方案使用。
| Use case | Who | What they get back |
|---|---|---|
| 图像问答 | 开发者 | 关于图像内容的文字回答 |
| 推理和编程 | 工程师 | 写好的代码或分步骤的回答 |
| 智能体任务 | 智能体开发者 | 用于长流程、需要调用工具的任务的文字回复 |
| 多语言聊天 | 支持团队 | 201 种语言和方言中许多种的回复 |
你需要 Python 和非常大的内存。
pip install -U huggingface_hub hf download Qwen/Qwen3.5-122B-A10B
在一种受支持的方案里加载模型,然后发给它包含文字、也可以包含图像的提示词。具体调用写在模型卡里,这里给出的文字没有转载,请按模型卡来写代码。
你发一张白板草图的照片,问图上画的是什么。模型用文字回复,读出草图的内容,并简要总结各个部分。
如果你刚接触大模型,要知道它需要服务器级的机器。先在磁盘足够的机器上下载文件,再按模型卡来跑第一个提示词。
如果你熟悉这个领域:语言模型有 48 层,采用混合布局,混合了 Gated DeltaNet 和 Gated Attention 模块,每个模块后面都跟着一个混合专家层。它有 256 个专家,每个 token 激活 8 个路由专家和 1 个共享专家,并带视觉编码器。它用多步 MTP 训练。原生上下文为 262,144 个 token。
模型卡说原生上下文是 262,144 个 token,可以扩展到最长 1,010,000。它的基准测试表把这个模型和 GPT-5-mini、GPT-OSS-120B、Qwen3-235B-A22B 以及其他 Qwen3.5 规模做了比较。
这个模型同时读图像和文字并用文字回答,是总参数 122B、激活参数 10B 的混合专家模型。适合有大型 GPU 服务器、想用开源视觉语言模型做推理、编程和智能体的团队。
由 Qwen 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Qwen3.5-122B-A10B 是 Qwen 团队的大型开源模型,接收图像和文字输入,用文字回复。它总共有 1220 亿参数,每个 token 激活 100 亿,支持 201 种语言和方言。这个仓库里放的是 Transformers 格式的后训练权重。
适合谁:适合有高性能 GPU 硬件、想用开源视觉语言模型做推理、编程和智能体工作的团队,许可证为 Apache 2.0。
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 同时针对截图、图表和代码提问 | 解释截图里显示的一个错误
AI 产品 | 智能体开发者 | 运行能读网页和图像的智能体 | 读一张图表并说明趋势
全球服务 | 本地化团队 | 用 201 种语言和方言服务用户 | 用印地语回答一个支持问题
研究 | 机器学习研究人员 | 研究混合专家结构的视觉语言模型 | 把它和较小的 Qwen3.5 模型比较
如果你只有一块消费级 GPU,可以跳过它,因为光是 4-bit 的估算就要约 62.5 GB。
用在哪里:模型卡说这些文件能配合多种部署方案使用。
Use case | Who | What they get back
图像问答 | 开发者 | 关于图像内容的文字回答
推理和编程 | 工程师 | 写好的代码或分步骤的回答
智能体任务 | 智能体开发者 | 用于长流程、需要调用工具的任务的文字回复
多语言聊天 | 支持团队 | 201 种语言和方言中许多种的回复
如何设置:你需要 Python 和非常大的内存。
pip install -U huggingface_hub
hf download Qwen/Qwen3.5-122B-A10B
如何使用:在一种受支持的方案里加载模型,然后发给它包含文字、也可以包含图像的提示词。具体调用写在模型卡里,这里给出的文字没有转载,请按模型卡来写代码。
示例:你发一张白板草图的照片,问图上画的是什么。模型用文字回复,读出草图的内容,并简要总结各个部分。
新手与专家:如果你刚接触大模型,要知道它需要服务器级的机器。先在磁盘足够的机器上下载文件,再按模型卡来跑第一个提示词。
如果你熟悉这个领域:语言模型有 48 层,采用混合布局,混合了 Gated DeltaNet 和 Gated Attention 模块,每个模块后面都跟着一个混合专家层。它有 256 个专家,每个 token 激活 8 个路由专家和 1 个共享专家,并带视觉编码器。它用多步 MTP 训练。原生上下文为 262,144 个 token。
用 hf 下载文件
在 Transformers、vLLM 或 SGLang 里加载
发送文字和图像
把 token 路由到被激活的专家
收到文字回复
注意事项:模型卡说原生上下文是 262,144 个 token,可以扩展到最长 1,010,000。它的基准测试表把这个模型和 GPT-5-mini、GPT-OSS-120B、Qwen3-235B-A22B 以及其他 Qwen3.5 规模做了比较。
Title: 权重大小,单位 GB
BF16: 250 GB
4-bit (estimate): 62.5 GB
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Qwen/Qwen3.5-122B-A10B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Qwen3.5-122B-A10B 本页 | 810,081 | 653 | 125B | apache-2.0 | |
| Qwen3.6-35B-A3B共有 qwen3_5_moe · image-text-to-text · conversational | 4,071,952 | 3,119 | 36B | apache-2.0 | |
| Qwen3.6-35B-A3B-FP8共有 qwen3_5_moe · image-text-to-text · conversational | 3,818,590 | 448 | 36B | apache-2.0 | |
| Qwen3.5-35B-A3B共有 qwen3_5_moe · image-text-to-text · conversational | 1,514,731 | 1,559 | 36B | apache-2.0 | |
| Ornith-1.5-35B-A3B-NVFP4共有 qwen3_5_moe · image-text-to-text · conversational | 1,124,337 | 73 | 19.5B | mit | |
| Qwen3.6-35B-A3B-NVFP4-Fast共有 qwen3_5_moe · image-text-to-text · conversational | 695,020 | 134 | 19.8B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。