Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
提供一组会发出蜜蜂嗡嗡声的小型 GGUF 语言模型,有只会嗡嗡的小蜜蜂、带情绪标签的蜜蜂,以及蜂后与工蜂相连的蜂巢。适合喜欢超小模型的爱好者和开发者。
BeeLLM 是一款工具包,属于陪伴类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download schizophyllume/BeeLLM
BeeLLM 是一组用蜜蜂声音说话的超小型语言模型。最小的只会嗡嗡叫,Mood 系列还会表达感受,蜂巢系列则把一只蜂后和多只工蜂连在一起。每个文件都是 llama 架构的 GGUF,所以凡是能运行 llama.cpp 的地方都能运行,而且小到可以放进网页应用里。
它适合喜欢小型语言模型趣味作品的人,以及想用微型模型做测试的开发者。老师也可以用它演示语言模型在极小规模下是怎么工作的。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 教育 | 老师和学生 | 展示语言模型在极小规模下的表现 | 对比只有一层的小蜜蜂和有八层的 Scintilla |
| 网页开发 | 前端开发者 | 在网页应用里运行一个很小的模型 | 在网页里加载一个 GGUF 蜜蜂文件 |
| 娱乐 | 业余创作者 | 给聊天角色加上情绪和小动作 | 做一只会根据你的态度做出反应的宠物蜜蜂 |
| 研究 | 小模型爱好者 | 研究蜂后模型与工蜂模型相连的做法 | 试用 hive 文件夹里的文件 |
如果你需要能给出事实性回答的模型,可以跳过它,因为这些蜜蜂只用嗡嗡声、情绪和小动作来回应。
| 用例 | 谁用 | 得到什么 |
|---|---|---|
| 和有情绪的蜜蜂聊天 | 好奇的人 | 以情绪标签开头,后面跟着嗡嗡声和动作的回复 |
| 测试超小模型 | 开发者 | 一个最少只有 10K 权重的 GGUF 文件 |
| 试用相连的模型 | 研究人员 | 一个包含蜂后和最多 12 只工蜂的蜂巢文件 |
pip install -U huggingface_hub hf download schizophyllume/BeeLLM
在你的 GGUF 运行环境里加载一个蜜蜂文件,然后给它发消息。tiny 蜜蜂只会用嗡嗡声回答。Mood 蜜蜂每次回复都以一个由情绪和强度组成的标签开头。情绪是 neutral、happy、loving、sad、angry 或 confused,强度是 low 或 high。标签取决于你怎么对待她,送花她会开心,拍她她会生气。
| 工具 | 作用 |
|---|---|
| tiny 文件夹 | 只会嗡嗡叫的蜜蜂,词表只有 8 到 21 个嗡嗡声 |
| mood 文件夹 | 每次回复都带情绪标签、会用感受和动作回答的蜜蜂 |
| BeeLLM-Scintilla-50M | 独自一只的 50M 蜂后,她的情绪会逐渐变化 |
| hive 文件夹 | 一只 50M 蜂后连接最多 12 只工蜂,另有一个小型的初代蜂巢 |
你对一只 Mood 蜜蜂说“i love you”。按模型卡的反应表,她会觉得被爱,所以回复以 loving 标签开头,后面是嗡嗡声和小动作。
语言模型的工作是猜一段文字接下来是什么。这些模型都很小,最小的那只蜜蜂的词表只有 8 个嗡嗡声。第一次可以加载最小的 tiny 文件说声你好,或者在作者的浏览器页面上和一只 Mood 蜜蜂聊天。
从底层看,每个文件都是上下文长度 4096 的 llama 架构模型。tiny 蜜蜂有一层,权重为 10K 到 24K。Mood 蜜蜂有 4 到 8 层,权重为 1.1M 到 50M。在蜂巢文件里,蜂后和工蜂互相传递神经激活,模型卡把这叫作 neuralese。体积小是有代价的,模型卡说 2.0 的 1M 蜜蜂偶尔会把某个词说乱。
提供一组会发出蜜蜂嗡嗡声的小型 GGUF 语言模型,有只会嗡嗡的小蜜蜂、带情绪标签的蜜蜂,以及蜂后与工蜂相连的蜂巢。适合喜欢超小模型的爱好者和开发者。
由 schizophyllume 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:BeeLLM 是一组用蜜蜂声音说话的超小型语言模型。最小的只会嗡嗡叫,Mood 系列还会表达感受,蜂巢系列则把一只蜂后和多只工蜂连在一起。每个文件都是 llama 架构的 GGUF,所以凡是能运行 llama.cpp 的地方都能运行,而且小到可以放进网页应用里。
适合谁:它适合喜欢小型语言模型趣味作品的人,以及想用微型模型做测试的开发者。老师也可以用它演示语言模型在极小规模下是怎么工作的。
行业 | 谁在用 | 怎么用 | 例子
教育 | 老师和学生 | 展示语言模型在极小规模下的表现 | 对比只有一层的小蜜蜂和有八层的 Scintilla
网页开发 | 前端开发者 | 在网页应用里运行一个很小的模型 | 在网页里加载一个 GGUF 蜜蜂文件
娱乐 | 业余创作者 | 给聊天角色加上情绪和小动作 | 做一只会根据你的态度做出反应的宠物蜜蜂
研究 | 小模型爱好者 | 研究蜂后模型与工蜂模型相连的做法 | 试用 hive 文件夹里的文件
如果你需要能给出事实性回答的模型,可以跳过它,因为这些蜜蜂只用嗡嗡声、情绪和小动作来回应。
用在哪里:
用例 | 谁用 | 得到什么
和有情绪的蜜蜂聊天 | 好奇的人 | 以情绪标签开头,后面跟着嗡嗡声和动作的回复
测试超小模型 | 开发者 | 一个最少只有 10K 权重的 GGUF 文件
试用相连的模型 | 研究人员 | 一个包含蜂后和最多 12 只工蜂的蜂巢文件
如何设置:
pip install -U huggingface_hub
hf download schizophyllume/BeeLLM
如何使用:在你的 GGUF 运行环境里加载一个蜜蜂文件,然后给它发消息。tiny 蜜蜂只会用嗡嗡声回答。Mood 蜜蜂每次回复都以一个由情绪和强度组成的标签开头。情绪是 neutral、happy、loving、sad、angry 或 confused,强度是 low 或 high。标签取决于你怎么对待她,送花她会开心,拍她她会生气。
工具 | 作用
tiny 文件夹 | 只会嗡嗡叫的蜜蜂,词表只有 8 到 21 个嗡嗡声
mood 文件夹 | 每次回复都带情绪标签、会用感受和动作回答的蜜蜂
BeeLLM-Scintilla-50M | 独自一只的 50M 蜂后,她的情绪会逐渐变化
hive 文件夹 | 一只 50M 蜂后连接最多 12 只工蜂,另有一个小型的初代蜂巢
示例:你对一只 Mood 蜜蜂说“i love you”。按模型卡的反应表,她会觉得被爱,所以回复以 loving 标签开头,后面是嗡嗡声和小动作。
新手与专家:语言模型的工作是猜一段文字接下来是什么。这些模型都很小,最小的那只蜜蜂的词表只有 8 个嗡嗡声。第一次可以加载最小的 tiny 文件说声你好,或者在作者的浏览器页面上和一只 Mood 蜜蜂聊天。
从底层看,每个文件都是上下文长度 4096 的 llama 架构模型。tiny 蜜蜂有一层,权重为 10K 到 24K。Mood 蜜蜂有 4 到 8 层,权重为 1.1M 到 50M。在蜂巢文件里,蜂后和工蜂互相传递神经激活,模型卡把这叫作 neuralese。体积小是有代价的,模型卡说 2.0 的 1M 蜜蜂偶尔会把某个词说乱。
你发一条消息
蜜蜂模型读取它
根据你的态度选出情绪标签
用嗡嗡声和动作回复
注意事项:
Title: 每只蜜蜂的词表大小
BeeLLM-30P: 8 buzzes
BeeLLM-42P: 12 buzzes
BeeLLM-42P-Chaos: 21 buzzes
BeeLLM-1M-Mood: 1,024 tokens
BeeLLM-2.0-12M-Mood: 2,048 tokens
BeeLLM-Scintilla-50M: 8,192 tokens
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download schizophyllume/BeeLLM
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| BeeLLM 本页 | 1,850 | 46 | 4.4M | apache-2.0 | |
| Tallow共有 tiny · toy-model · text-generation | 681 | 8 | 15.7M | apache-2.0 | |
| mai_replier-9b-v3共有 text-generation | 660 | 8 | 9.4B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
hiwaifu-research · 工具包
从 Gemma 4 31B-IT 后训练而来的角色扮演聊天模型,用用户的语言回复,无论是俄语、西班牙语、英语还是葡萄牙语,并一直保持这种语言。可处理图像和文字。
nohurry · 工具包
分享 SillyTavern 的角色扮演预设,主要是 Voyage 系列,另有一个通用的 Eval 预设。适合用本地或云端语言模型玩故事聊天的人。
kingabzpro · 工具包
在 Gradio 页面里用 DialoGPT 模型,以《Rick and Morty》中 Rick 的口吻和你聊天。适合粉丝,也适合想看小型聊天机器人示例的开发者。