Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
一步一步推理数学、物理、科学编程以及波斯语或英语问题,并支持工具调用。基于 Spark-X2.6-4B 的 4.1B 模型,适合想要小型双语推理模型的人。
Rostam-S1-4B 是一款工具包,属于研究类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download officialmobai/Rostam-S1-4B
Rostam-S1 是 Mob AI 推出的文本生成模型,以 officialmobai 的名字发布,与 Spark 项目合作打造。它以 XHToken 的 Spark-X2.6-4B 为基础,有 4.1B 参数,以 Safetensors 文件形式提供,配合 transformers 使用。它面向数学、理论物理、科学编程、波斯语和英语推理,以及智能体任务。
如果你想要一个能把推理过程写出来的小型模型,尤其是用波斯语或英语,它适合你。模型卡也提到了需要函数调用的开发者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 教育 | 使用波斯语或英语的学生和老师 | 借助写出来的推理过程,解数学和物理题 | 用波斯语一步一步讲解的推导 |
| 软件 | 开发者 | 在小模型上尝试科学编程帮助和工具调用 | 一段用于仿真任务的简短脚本 |
| 研究 | 机器学习研究人员 | 研究基于 Spark-X2.6-4B 的 4B 推理模型 | 把基础模型和这个模型放在一起对照 |
如果你现在就需要经过审计的基准分数,或者需要英语和波斯语以外的语言,可以跳过它。
| Use case | Who | What they get back |
|---|---|---|
| 解数学或物理题 | 学生 | 先给出推理过程,再给出答案 |
| 用波斯语提问 | 说波斯语的人 | 波斯语的专业解答 |
| 尝试智能体式的工具调用 | 开发者 | 模型自己决定发出的函数调用 |
pip install -U huggingface_hub hf download officialmobai/Rostam-S1-4B
发送一条聊天消息,并保持思考模式开启,这样模型会在回答之前先写出推理过程。示例把 trust_remote_code 设为 True,这会运行模型仓库里附带的代码。
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "officialmobai/Rostam-S1-4B"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
model_id,
trust_remote_code=True,
dtype=torch.bfloat16,
device_map="auto"
)
messages = [
{"role": "user", "content": "نام شما چیست و سازنده شما کیست؟"}
]
inputs = tokenizer.apply_chat_template(
messages,
tokenize=True,
add_generation_prompt=True,
enable_thinking=True,
return_dict=True,
return_tensors="pt"
).to(model.device)
outputs = model.generate(
**inputs,
max_new_tokens=512,
do_sample=True,
temperature=0.7,
top_p=0.9
)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True))| Tool | What it does |
|---|---|
| apply_chat_template | 把你的消息转成模型期望的提示格式 |
| enable_thinking=True | 在最终答案之前打开推理过程 |
| generate | 写出回复,这里最多 512 个新 token,temperature 为 0.7,top_p 为 0.9 |
| tokenizer.decode | 把生成的 token 转回文字 |
原样运行示例。它用波斯语询问模型的名字和它的制作者。思考模式开启时,模型会先写出推理过程,再给出回答。
这是一个小型聊天模型,能展示它是怎么得出答案的。第一次尝试时,先运行示例,再把波斯语问题换成一道简短的数学题,看看它先写出的推理过程。
模型卡说,它是在 Spark-X2.6-4B 的基础上,用子空间隔离的参数更新和重放正则化调整而来,目的是避免忘掉基础模型已有的知识。它列出了原生函数调用和沙箱执行。基准表里只有目标值,作者说经过审计的分数会在完整的后训练评估之后公布。
模型卡基准表里的数字是团队设定的目标,不是测得的结果。对比基础模型的数字时要小心,因为它们来自其他模型卡和论文。
一步一步推理数学、物理、科学编程以及波斯语或英语问题,并支持工具调用。基于 Spark-X2.6-4B 的 4.1B 模型,适合想要小型双语推理模型的人。
由 officialmobai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Rostam-S1 是 Mob AI 推出的文本生成模型,以 officialmobai 的名字发布,与 Spark 项目合作打造。它以 XHToken 的 Spark-X2.6-4B 为基础,有 4.1B 参数,以 Safetensors 文件形式提供,配合 transformers 使用。它面向数学、理论物理、科学编程、波斯语和英语推理,以及智能体任务。
适合谁:如果你想要一个能把推理过程写出来的小型模型,尤其是用波斯语或英语,它适合你。模型卡也提到了需要函数调用的开发者。
Industry | Who uses it | How they use it | Example
教育 | 使用波斯语或英语的学生和老师 | 借助写出来的推理过程,解数学和物理题 | 用波斯语一步一步讲解的推导
软件 | 开发者 | 在小模型上尝试科学编程帮助和工具调用 | 一段用于仿真任务的简短脚本
研究 | 机器学习研究人员 | 研究基于 Spark-X2.6-4B 的 4B 推理模型 | 把基础模型和这个模型放在一起对照
如果你现在就需要经过审计的基准分数,或者需要英语和波斯语以外的语言,可以跳过它。
用在哪里:
Use case | Who | What they get back
解数学或物理题 | 学生 | 先给出推理过程,再给出答案
用波斯语提问 | 说波斯语的人 | 波斯语的专业解答
尝试智能体式的工具调用 | 开发者 | 模型自己决定发出的函数调用
如何设置:
pip install -U huggingface_hub
hf download officialmobai/Rostam-S1-4B
如何使用:发送一条聊天消息,并保持思考模式开启,这样模型会在回答之前先写出推理过程。示例把 trust_remote_code 设为 True,这会运行模型仓库里附带的代码。
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
model_id = "officialmobai/Rostam-S1-4B"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
model_id,
trust_remote_code=True,
dtype=torch.bfloat16,
device_map="auto"
)
messages = [
{"role": "user", "content": "نام شما چیست و سازنده شما کیست؟"}
]
inputs = tokenizer.apply_chat_template(
messages,
tokenize=True,
add_generation_prompt=True,
enable_thinking=True,
return_dict=True,
return_tensors="pt"
).to(model.device)
outputs = model.generate(
**inputs,
max_new_tokens=512,
do_sample=True,
temperature=0.7,
top_p=0.9
)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True))
Tool | What it does
apply_chat_template | 把你的消息转成模型期望的提示格式
enable_thinking=True | 在最终答案之前打开推理过程
generate | 写出回复,这里最多 512 个新 token,temperature 为 0.7,top_p 为 0.9
tokenizer.decode | 把生成的 token 转回文字
示例:原样运行示例。它用波斯语询问模型的名字和它的制作者。思考模式开启时,模型会先写出推理过程,再给出回答。
新手与专家:这是一个小型聊天模型,能展示它是怎么得出答案的。第一次尝试时,先运行示例,再把波斯语问题换成一道简短的数学题,看看它先写出的推理过程。
模型卡说,它是在 Spark-X2.6-4B 的基础上,用子空间隔离的参数更新和重放正则化调整而来,目的是避免忘掉基础模型已有的知识。它列出了原生函数调用和沙箱执行。基准表里只有目标值,作者说经过审计的分数会在完整的后训练评估之后公布。
你用英语或波斯语发送消息
聊天模板打开思考模式
模型写出一段推理过程
最终答案跟在推理过程之后
注意事项:模型卡基准表里的数字是团队设定的目标,不是测得的结果。对比基础模型的数字时要小心,因为它们来自其他模型卡和论文。
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download officialmobai/Rostam-S1-4B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Rostam-S1-4B 本页 | 2,751 | 5 | 4.1B | apache-2.0 | |
| Quark共有 math · physics · reasoning | 107 | 7 | 9.7B | apache-2.0 | |
| Sage-A1.5共有 agentic · code · text-generation | 22,224 | 404 | 36B | apache-2.0 | |
| Sage-A1.5 GGUF (Q4_K_M)共有 agentic · code · text-generation | 636,834 | 84 | 35.5B | apache-2.0 | |
| K2-Horizon-0.9B共有 reasoning · text-generation · transformers | 11,244 | 105 | 1.1B | apache-2.0 | |
| Qwen3.6-35B-A3B Claude 4.7 Opus Reasoning Distilled共有 reasoning · text-generation · transformers | 674 | 206 | 36B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
AbdomenAtlas · 工具包
在 CT 扫描上检测并勾画 9 个器官的肿瘤,使用从放射学报告中学习的 R-Super 方法训练。这是面向医学影像团队的研究模型,采用非商业许可。
dBenf · 工具包
回答关于卫星图像块的类型化问题,使用 Sentinel-2 的全部 12 个波段,为每个选项返回概率,不生成文字。这是 Qwen3.5-0.8B 的微调版本,适合地球观测研究者。
zimmerk4 · 工具包
用一个在 JAX 物理模拟器里学会的小型策略网络,从头到尾通关游戏 Getting Over It。适合强化学习研究者和好奇的动手爱好者。