Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
用面向设备端和本地使用的稠密 2B 级模型生成文本,涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。
MiniCPM5-2B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download openbmb/MiniCPM5-2B
MiniCPM5-2B 是 OpenBMB 推出的稠密 Transformer 语言模型,按 Hugging Face 的统计约有 2.5B 参数。它是 MiniCPM5 系列的第二个模型,前面是 1B 的那个,沿用并放大了同样的训练方案。它面向设备端、本地和资源有限的使用,支持英文和中文。
想在自己硬件上用小模型做编程、数学、长文档、工具使用和智能体任务的开发者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 开发者 | 在本地运行小型编程和智能体模型 | 给桌面工具加一个离线助手 |
| 移动和边缘 | 设备开发者 | 把语言模型放到受限的硬件上 | 不用服务器就运行聊天功能 |
| 教育 | 学生 | 在笔记本上尝试数学和编程问题 | 请它给出一道数学题的完整解答 |
如果你想要最强的回答,并且有大显卡,可以跳过它,因为卡片把它和 4B 级模型做比较。
| Use case | Who | What they get back |
|---|---|---|
| 编程帮助 | 开发者 | 来自小模型的代码和修复 |
| 数学 | 学生 | 数学题的完整解答 |
| 工具和智能体任务 | 智能体开发者 | 会使用工具的多步骤行为 |
pip install -U huggingface_hub hf download openbmb/MiniCPM5-2B
在 Transformers 里加载模型,给它发一段聊天提示词。卡片的使用部分有具体代码,同一个团队还提供了在线演示。
你请它写一个简短的函数并解释。模型用文字回复,给出代码和一段简短说明。
如果你是新手,试一个简短的编程或数学问题,看看回复读起来怎么样。小体积让下载和内存需求都很低。
卡片说,在它自己的对比集合里,这个模型与同等规模的强力开源模型相当。在这个集合里,作者说它能跟上更大的 4B 级模型,最大的优势在代码、数学、读长输入、调用工具和智能体工作。这些说法来自作者自己的对比,所以请在你自己的任务上检验。
用面向设备端和本地使用的稠密 2B 级模型生成文本,涵盖英文和中文的编程、数学、长上下文、工具使用和智能体任务。适合硬件有限的开发者。
由 openbmb 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:MiniCPM5-2B 是 OpenBMB 推出的稠密 Transformer 语言模型,按 Hugging Face 的统计约有 2.5B 参数。它是 MiniCPM5 系列的第二个模型,前面是 1B 的那个,沿用并放大了同样的训练方案。它面向设备端、本地和资源有限的使用,支持英文和中文。
适合谁:想在自己硬件上用小模型做编程、数学、长文档、工具使用和智能体任务的开发者。
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 在本地运行小型编程和智能体模型 | 给桌面工具加一个离线助手
移动和边缘 | 设备开发者 | 把语言模型放到受限的硬件上 | 不用服务器就运行聊天功能
教育 | 学生 | 在笔记本上尝试数学和编程问题 | 请它给出一道数学题的完整解答
如果你想要最强的回答,并且有大显卡,可以跳过它,因为卡片把它和 4B 级模型做比较。
用在哪里:
Use case | Who | What they get back
编程帮助 | 开发者 | 来自小模型的代码和修复
数学 | 学生 | 数学题的完整解答
工具和智能体任务 | 智能体开发者 | 会使用工具的多步骤行为
如何设置:
pip install -U huggingface_hub
hf download openbmb/MiniCPM5-2B
如何使用:在 Transformers 里加载模型,给它发一段聊天提示词。卡片的使用部分有具体代码,同一个团队还提供了在线演示。
示例:你请它写一个简短的函数并解释。模型用文字回复,给出代码和一段简短说明。
新手与专家:如果你是新手,试一个简短的编程或数学问题,看看回复读起来怎么样。小体积让下载和内存需求都很低。
卡片说,在它自己的对比集合里,这个模型与同等规模的强力开源模型相当。在这个集合里,作者说它能跟上更大的 4B 级模型,最大的优势在代码、数学、读长输入、调用工具和智能体工作。这些说法来自作者自己的对比,所以请在你自己的任务上检验。
下载权重
在 Transformers 里加载
发送聊天提示词
读取生成的回复
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download openbmb/MiniCPM5-2B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 4 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| MiniCPM5-2B 本页 | 1,039,518 | 1,850 | 2.5B | apache-2.0 | |
| MiniCPM5-2B-GGUF共有 minicpm · minicpm5 · edge-ai | 481,119 | 393 | 2.5B | apache-2.0 | |
| MiniCPM5-2B-GGUF共有 minicpm · minicpm5 · edge-ai | 9,232 | 38 | 2.5B | apache-2.0 | |
| CherryPit-1.2-2B共有 tool-calling · llama · on-device | 451 | 6 | 2.5B | apache-2.0 | |
| gnani-evon-v3.3-30B-A3B共有 tool-calling · long-context · text-generation | 60,825 | 81 | 31.7B | apache-2.0 | |
| Spark-X2.6-4B-AgentFast共有 tool-calling · on-device · text-generation | 552 | 4 | 4.1B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。