Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
42 亿参数的 Rust 编程模型,基于 Qwen3.5-4B,能回答俄语和英语请求。适合想用小型模型处理函数、trait、泛型和线程的 Rust 开发者。
Temper-2-Nodel 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download maylore-ai/Temper-2-Nodel
Temper 2 Nodel 是一个 42 亿参数的语言模型,专门调优来写 Rust。在 Temper 2 系列中它体量最大,基础模型是 Qwen3.5。它面向涉及 trait、泛型和线程的实际 Rust 工作,能理解俄语和英语的请求。
适合想要一个能用俄语或英语回答编程请求的小型本地模型的 Rust 开发者和工具开发者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | Rust 开发者 | 以聊天方式请求函数和修复 | 请求一个 Rust 版斐波那契辅助函数 |
| 教育 | Rust 学习者 | 从简短随意的请求得到可用示例 | 用俄语请求一个 trait 示例 |
| 工具开发 | 工具开发者 | 在自己的硬件上运行小型编程模型 | 从 Python 脚本里调用它 |
如果你想要编辑器里的自动补全,可以跳过,因为它的训练只用了聊天请求。
它在 Windows、macOS 或 Linux 上通过 transformers 库用 Python 运行。另有单独的 GGUF 版本,可用于 llama.cpp、LM Studio 和 Ollama。
| Use case | Who | What they get back |
|---|---|---|
| 写一个 Rust 函数 | 开发者 | 回复中可用的 Rust 代码 |
| 俄语或英语的 Rust 问题 | 双语团队 | 任一种语言的回答,即使请求很简短 |
| 本地编程助手 | 工具开发者 | 适合普通硬件的小型模型 |
你需要装有 transformers 和 PyTorch 的 Python。Hugging Face 标注 BF16 权重约 8.4 GB,4 位量化下估计约 2.1 GB。
pip install -U huggingface_hub hf download maylore-ai/Temper-2-Nodel
通过分词器的对话模板发送一条聊天消息,最多生成 1000 个新 token。你没提供系统提示词时,模板会加上 Temper 系统提示词,模型会直接作答,不显示推理过程。推荐的温度是 0.2。
from transformers import AutoModelForCausalLM, AutoTokenizer
name = "maylore-ai/Temper-2-Nodel"
tokenizer = AutoTokenizer.from_pretrained(name)
model = AutoModelForCausalLM.from_pretrained(name, dtype="auto", device_map="auto")
messages = [{"role": "user", "content": "Write a Rust function that returns the n-th Fibonacci number."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_dict=True, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=1000)
print(tokenizer.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))| Tool | What it does |
|---|---|
| AutoTokenizer | 加载分词器及其对话模板 |
| AutoModelForCausalLM | 加载模型并把它放到你的设备上 |
| generate | 写出回复,这里最多 1000 个新 token |
你让它写一个给出第 n 个斐波那契数的 Rust 函数。模型马上回复相应的 Rust 代码,脚本只打印新写出的文字。
如果你是新手,先运行上面的脚本,读一读它打印的 Rust 代码。再把请求改成另一个小函数,对比答案。
如果你熟悉这个领域,它是在 Rust 任务和对话加上难题上微调的 Qwen3.5-4B,随后用带测试的任务做强化学习,再与原始权重合并。它的回答变得不那么多样,所以在 MBPP-RS 上十次尝试时落后于基础模型。
在第一次尝试的 HumanEval-RS 上,Qwen3.5-9B 领先 2.8 分。这个模型常常无法很好地解释自己写的代码。
42 亿参数的 Rust 编程模型,基于 Qwen3.5-4B,能回答俄语和英语请求。适合想用小型模型处理函数、trait、泛型和线程的 Rust 开发者。
由 maylore-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Temper 2 Nodel 是一个 42 亿参数的语言模型,专门调优来写 Rust。在 Temper 2 系列中它体量最大,基础模型是 Qwen3.5。它面向涉及 trait、泛型和线程的实际 Rust 工作,能理解俄语和英语的请求。
适合谁:适合想要一个能用俄语或英语回答编程请求的小型本地模型的 Rust 开发者和工具开发者。
Industry | Who uses it | How they use it | Example
软件 | Rust 开发者 | 以聊天方式请求函数和修复 | 请求一个 Rust 版斐波那契辅助函数
教育 | Rust 学习者 | 从简短随意的请求得到可用示例 | 用俄语请求一个 trait 示例
工具开发 | 工具开发者 | 在自己的硬件上运行小型编程模型 | 从 Python 脚本里调用它
如果你想要编辑器里的自动补全,可以跳过,因为它的训练只用了聊天请求。
用在哪里:它在 Windows、macOS 或 Linux 上通过 transformers 库用 Python 运行。另有单独的 GGUF 版本,可用于 llama.cpp、LM Studio 和 Ollama。
Use case | Who | What they get back
写一个 Rust 函数 | 开发者 | 回复中可用的 Rust 代码
俄语或英语的 Rust 问题 | 双语团队 | 任一种语言的回答,即使请求很简短
本地编程助手 | 工具开发者 | 适合普通硬件的小型模型
如何设置:你需要装有 transformers 和 PyTorch 的 Python。Hugging Face 标注 BF16 权重约 8.4 GB,4 位量化下估计约 2.1 GB。
pip install -U huggingface_hub
hf download maylore-ai/Temper-2-Nodel
如何使用:通过分词器的对话模板发送一条聊天消息,最多生成 1000 个新 token。你没提供系统提示词时,模板会加上 Temper 系统提示词,模型会直接作答,不显示推理过程。推荐的温度是 0.2。
from transformers import AutoModelForCausalLM, AutoTokenizer
name = "maylore-ai/Temper-2-Nodel"
tokenizer = AutoTokenizer.from_pretrained(name)
model = AutoModelForCausalLM.from_pretrained(name, dtype="auto", device_map="auto")
messages = [{"role": "user", "content": "Write a Rust function that returns the n-th Fibonacci number."}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_dict=True, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=1000)
print(tokenizer.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))
Tool | What it does
AutoTokenizer | 加载分词器及其对话模板
AutoModelForCausalLM | 加载模型并把它放到你的设备上
generate | 写出回复,这里最多 1000 个新 token
示例:你让它写一个给出第 n 个斐波那契数的 Rust 函数。模型马上回复相应的 Rust 代码,脚本只打印新写出的文字。
新手与专家:如果你是新手,先运行上面的脚本,读一读它打印的 Rust 代码。再把请求改成另一个小函数,对比答案。
如果你熟悉这个领域,它是在 Rust 任务和对话加上难题上微调的 Qwen3.5-4B,随后用带测试的任务做强化学习,再与原始权重合并。它的回答变得不那么多样,所以在 MBPP-RS 上十次尝试时落后于基础模型。
Qwen3.5-4B 基础模型
在 Rust 任务和对话上微调
在带测试的任务上做强化学习
与原始权重合并
注意事项:在第一次尝试的 HumanEval-RS 上,Qwen3.5-9B 领先 2.8 分。这个模型常常无法很好地解释自己写的代码。
Title: Temper-2-Nodel 的分数,单位为百分比
HumanEval-RS pass@1: 73.2 %
MBPP-RS pass@1: 64.8 %
Temper Bench v2: 37.3 %
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download maylore-ai/Temper-2-Nodel
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Temper-2-Nodel 本页 | 451 | 3 | 4.2B | apache-2.0 | |
| Terminal-RSI-27B共有 code · qwen3_5 · text-generation | 2,536 | 33 | 27.8B | apache-2.0 | |
| Mica v0.1 4B共有 qwen3_5_text · text-generation · conversational | 3,436 | 52 | 4.2B | apache-2.0 | |
| NeoHorse-1-9B共有 qwen3_5_text · text-generation · conversational | 1,548 | 1,051 | 9B | apache-2.0 | |
| Qwen3.5-4B Qwenputer Filesystem共有 qwen3_5_text · text-generation · conversational | 1,016 | 15 | 11.1B | apache-2.0 | |
| JevK5-chat-mlx-4bit共有 qwen3_5_text · text-generation · conversational | 381 | 2 | 4.2B | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。