Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
用一个 4B 模型以斯瓦希里语和英语作答,设计为在你自己的设备上离线私密运行。适合需要非洲语境(如肯尼亚数据)的本地助手。
Zabibu Fikra Model 2 (4B) 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download zabibutechnika/Fikra-Model-2-4B
Zabibu Fikra Model 2 (4B) 是内罗毕的 Zabibu Technika 推出的 40 亿参数聊天模型。它是他们 fikra-v2-e3 检查点的微调版,而该检查点源自 Qwen3.5-4B。它面向在你自己设备上的私密离线使用,考虑了斯瓦希里语、英语和非洲语境。
适合想要一个无需联网的小型助手的人,也适合需要同一个模型同时处理斯瓦希里语和英语的团队。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 软件 | 应用开发者 | 构建在用户设备上运行的助手 | 一个无需调用服务器、用斯瓦希里语或英语作答的聊天功能 |
| 边缘和隔离网络 IT | 部署团队 | 在设计上就断网的环境里运行模型 | 一台没有网络的办公电脑 |
| 本地产品 | 产品团队 | 处理用户在句子中间切换斯瓦希里语和英语的情况 | 肯尼亚应用的客服助手 |
| 研究 | 自然语言处理研究者 | 在非洲语境用例上比较小模型 | 试一试模型卡列出的用例,如文化和本地知识 |
如果你需要大型托管模型,或需要斯瓦希里语和英语之外的语言,可以跳过它,因为模型卡只列出了这两种语言。
Safetensors 权重可在 transformers 库中加载,GGUF 版本可在桌面运行时中打开。
| 使用场景 | 谁用 | 得到什么 |
|---|---|---|
| 私密的本地设备助手 | 应用开发者 | 推理时无需任何外部调用的回复 |
| 斯瓦希里语和英语混用 | 产品团队 | 一个能同时理解两种语言的模型 |
| 边缘部署 | IT 团队 | 其 Q4_K_M 版本可在 CPU 上运行的小模型 |
你需要装有 pip 的 Python 来获取文件,还需要给权重留出磁盘空间,F16 约 8.4 GB。
pip install -U huggingface_hub hf download zabibutechnika/Fikra-Model-2-4B
在 transformers 中加载权重,或者在 llama.cpp、Ollama 或 LM Studio 中打开 GGUF 版本,然后用斯瓦希里语或英语聊天。模型卡说,系统提示词和部署设计都假定推理时没有网络。
| 工具 | 作用 |
|---|---|
| transformers | 加载 F16 的 Safetensors 权重 |
| llama.cpp、Ollama、LM Studio | 打开 GGUF 版本 |
| Q4_K_M | 可在 CPU 上运行的 GGUF 规格 |
| F16 | GGUF 参考副本 |
用斯瓦希里语问它是谁。模型卡的测试集里有四个斯瓦希里语身份用例,并报告四个全部通过,所以你可以期待一段关于它自身身份的斯瓦希里语回复。
语言模型读你的文字,然后写出回复。这个模型小到可以在你自己的电脑上运行,模型卡说它回答时不需要任何外部调用。你可以先下载 GGUF 版本,在 LM Studio 里打开,输入一句斯瓦希里语问候。
对熟悉这个领域的人来说,它是 fikra-v2-e3 的指令微调版,而 fikra-v2-e3 本身源自 Qwen3.5-4B。相比 2B 的 Fikra 模型,MMLU 的大部分提升来自更大的基础模型,而不是 Fikra 训练,模型卡也这样说明。Fikra 特有的提升是在它自己的 115 个用例发布测试集上测得的,比 e3 检查点高 2.6 个百分点。取舍在于体量和证据:公开基准测试每个任务只用了 10 个样本。
下面的发布测试集结果是模型卡自己给出的数字。
用一个 4B 模型以斯瓦希里语和英语作答,设计为在你自己的设备上离线私密运行。适合需要非洲语境(如肯尼亚数据)的本地助手。
由 zabibutechnika 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Zabibu Fikra Model 2 (4B) 是内罗毕的 Zabibu Technika 推出的 40 亿参数聊天模型。它是他们 fikra-v2-e3 检查点的微调版,而该检查点源自 Qwen3.5-4B。它面向在你自己设备上的私密离线使用,考虑了斯瓦希里语、英语和非洲语境。
适合谁:适合想要一个无需联网的小型助手的人,也适合需要同一个模型同时处理斯瓦希里语和英语的团队。
行业 | 谁在用 | 怎么用 | 例子
软件 | 应用开发者 | 构建在用户设备上运行的助手 | 一个无需调用服务器、用斯瓦希里语或英语作答的聊天功能
边缘和隔离网络 IT | 部署团队 | 在设计上就断网的环境里运行模型 | 一台没有网络的办公电脑
本地产品 | 产品团队 | 处理用户在句子中间切换斯瓦希里语和英语的情况 | 肯尼亚应用的客服助手
研究 | 自然语言处理研究者 | 在非洲语境用例上比较小模型 | 试一试模型卡列出的用例,如文化和本地知识
如果你需要大型托管模型,或需要斯瓦希里语和英语之外的语言,可以跳过它,因为模型卡只列出了这两种语言。
用在哪里:Safetensors 权重可在 transformers 库中加载,GGUF 版本可在桌面运行时中打开。
使用场景 | 谁用 | 得到什么
私密的本地设备助手 | 应用开发者 | 推理时无需任何外部调用的回复
斯瓦希里语和英语混用 | 产品团队 | 一个能同时理解两种语言的模型
边缘部署 | IT 团队 | 其 Q4_K_M 版本可在 CPU 上运行的小模型
如何设置:你需要装有 pip 的 Python 来获取文件,还需要给权重留出磁盘空间,F16 约 8.4 GB。
pip install -U huggingface_hub
hf download zabibutechnika/Fikra-Model-2-4B
如何使用:在 transformers 中加载权重,或者在 llama.cpp、Ollama 或 LM Studio 中打开 GGUF 版本,然后用斯瓦希里语或英语聊天。模型卡说,系统提示词和部署设计都假定推理时没有网络。
工具 | 作用
transformers | 加载 F16 的 Safetensors 权重
llama.cpp、Ollama、LM Studio | 打开 GGUF 版本
Q4_K_M | 可在 CPU 上运行的 GGUF 规格
F16 | GGUF 参考副本
示例:用斯瓦希里语问它是谁。模型卡的测试集里有四个斯瓦希里语身份用例,并报告四个全部通过,所以你可以期待一段关于它自身身份的斯瓦希里语回复。
新手与专家:语言模型读你的文字,然后写出回复。这个模型小到可以在你自己的电脑上运行,模型卡说它回答时不需要任何外部调用。你可以先下载 GGUF 版本,在 LM Studio 里打开,输入一句斯瓦希里语问候。
对熟悉这个领域的人来说,它是 fikra-v2-e3 的指令微调版,而 fikra-v2-e3 本身源自 Qwen3.5-4B。相比 2B 的 Fikra 模型,MMLU 的大部分提升来自更大的基础模型,而不是 Fikra 训练,模型卡也这样说明。Fikra 特有的提升是在它自己的 115 个用例发布测试集上测得的,比 e3 检查点高 2.6 个百分点。取舍在于体量和证据:公开基准测试每个任务只用了 10 个样本。
下载权重或 GGUF 版本
在 transformers 或 GGUF 运行时中打开
发送斯瓦希里语或英语提示词
模型在你的设备上离线回复
注意事项:下面的发布测试集结果是模型卡自己给出的数字。
Title: Fikra 发布测试集结果
自动检查测试集: 91.3 %
留出的改写句: 90.0 %
早先的 e3 检查点: 88.7 %
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download zabibutechnika/Fikra-Model-2-4B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Zabibu Fikra Model 2 (4B) 本页 | 682 | 3 | 4.2B | apache-2.0 | |
| Mica v0.1 4B共有 qwen3_5_text · gguf · text-generation | 3,436 | 52 | 4.2B | apache-2.0 | |
| Qwen3.5-4B-3D-Html共有 qwen3_5_text · gguf · text-generation | 1,735 | 5 | 4.2B | apache-2.0 | |
| NeoHorse-1-9B共有 qwen3_5_text · text-generation · transformers | 1,548 | 1,051 | 9B | apache-2.0 | |
| Qwen3.5-4B Qwenputer Filesystem共有 qwen3_5_text · text-generation · transformers | 1,016 | 15 | 11.1B | apache-2.0 | |
| hs-decide-1-flash共有 qwen3_5_text · text-generation · transformers | 858 | 20 | 752M | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。