Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
根据函数签名或文档字符串补全并编写 Python 代码。这是 Maincode 的 1B 代码模型,小到能在消费级硬件上运行,适合想在本地做代码补全的开发者。
Maincoder-1B 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download Maincode/Maincoder-1B
Maincoder-1B 是 Maincode 的 10 亿参数语言模型,专为代码生成和补全调优,重点是 Python。它小到可以在消费级电脑上运行。它的训练以一个强化学习阶段收尾,作者把这个阶段命名为 MCPO。
想在自己机器上用紧凑代码模型的开发者,以及比较小型编程模型的研究人员。上下文窗口很短,只有 2,048 个词元,所以更适合单个函数和类,而不是整份文件。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 开发者 | 根据签名和文档字符串补全函数 | 根据描述写完一个快速排序函数 |
| 教育 | 编程教师 | 在没有云的课堂上演示代码补全 | 现场演示写一个二叉搜索树 |
| 工具 | 编辑器插件开发者 | 用小型本地模型来做补全 | 一个离线的补全助手 |
| 研究 | 代码模型研究人员 | 在编程基准上比较小型模型 | 核对 HumanEval 和 MBPP+ 上的分数 |
如果你需要长上下文的工作或通用知识的回答,可以跳过它,因为它在通用测试上的分数一般,而且上下文很短。
| Use case | Who | What they get back |
|---|---|---|
| 函数补全 | 开发者 | 根据签名和文档字符串写完的函数体 |
| 类补全 | 开发者 | 从开头接着写下去的类骨架 |
| 算法草稿 | 学习者 | 一个已知算法的初版 |
pip install -U huggingface_hub hf download Maincode/Maincoder-1B
pip install transformers torch
提示词以函数签名和文档字符串开头,让模型写出函数体。较低的温度能让输出更稳定。同样的做法也适用于类和算法任务。
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
"Maincode/Maincoder-1B",
torch_dtype="auto",
device_map="auto",
trust_remote_code=True,
)
tokenizer = AutoTokenizer.from_pretrained(
"Maincode/Maincoder-1B",
trust_remote_code=True,
)
# Code completion example
prompt = '''def fibonacci(n: int) -> int:
"""Return the n-th Fibonacci number."""
'''
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(
**inputs,
max_new_tokens=256,
temperature=0.2,
do_sample=True,
)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))| Tool | What it does |
|---|---|
| AutoModelForCausalLM | 加载带自定义代码的模型 |
| AutoTokenizer | 把你的提示词变成词元,再还原回来 |
| model.generate | 写出后续内容,这里最多 256 个新词元 |
| temperature | 示例里设为 0.2,让输出保持稳定 |
你给模型一个快速排序的函数签名和一行文档字符串。它会写出后面的函数体。在依赖结果之前,请先读一遍并运行你自己的测试。
如果你是新手,先运行上面的斐波那契代码,确认一切都能加载。然后把签名和文档字符串改成你自己的函数。
如果你熟悉这个领域:模型是 32 层的解码器,带旋转位置嵌入、4 比 1 的分组查询注意力、QK 归一化和 SwiGLU。隐藏层大小 1536,16 个注意力头,词表 151,936 个词元。
在 HumanEval 上,作者报告该模型领先于他们比较的小型编程模型和通用模型。它的通用知识分数则低于其中一些。
根据函数签名或文档字符串补全并编写 Python 代码。这是 Maincode 的 1B 代码模型,小到能在消费级硬件上运行,适合想在本地做代码补全的开发者。
由 Maincode 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Maincoder-1B 是 Maincode 的 10 亿参数语言模型,专为代码生成和补全调优,重点是 Python。它小到可以在消费级电脑上运行。它的训练以一个强化学习阶段收尾,作者把这个阶段命名为 MCPO。
适合谁:想在自己机器上用紧凑代码模型的开发者,以及比较小型编程模型的研究人员。上下文窗口很短,只有 2,048 个词元,所以更适合单个函数和类,而不是整份文件。
Industry | Who uses it | How they use it | Example
软件 | 开发者 | 根据签名和文档字符串补全函数 | 根据描述写完一个快速排序函数
教育 | 编程教师 | 在没有云的课堂上演示代码补全 | 现场演示写一个二叉搜索树
工具 | 编辑器插件开发者 | 用小型本地模型来做补全 | 一个离线的补全助手
研究 | 代码模型研究人员 | 在编程基准上比较小型模型 | 核对 HumanEval 和 MBPP+ 上的分数
如果你需要长上下文的工作或通用知识的回答,可以跳过它,因为它在通用测试上的分数一般,而且上下文很短。
用在哪里:
Use case | Who | What they get back
函数补全 | 开发者 | 根据签名和文档字符串写完的函数体
类补全 | 开发者 | 从开头接着写下去的类骨架
算法草稿 | 学习者 | 一个已知算法的初版
如何设置:
pip install -U huggingface_hub
hf download Maincode/Maincoder-1B
pip install transformers torch
如何使用:提示词以函数签名和文档字符串开头,让模型写出函数体。较低的温度能让输出更稳定。同样的做法也适用于类和算法任务。
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
"Maincode/Maincoder-1B",
torch_dtype="auto",
device_map="auto",
trust_remote_code=True,
)
tokenizer = AutoTokenizer.from_pretrained(
"Maincode/Maincoder-1B",
trust_remote_code=True,
)
# Code completion example
prompt = '''def fibonacci(n: int) -> int:
"""Return the n-th Fibonacci number."""
'''
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
outputs = model.generate(
**inputs,
max_new_tokens=256,
temperature=0.2,
do_sample=True,
)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
Tool | What it does
AutoModelForCausalLM | 加载带自定义代码的模型
AutoTokenizer | 把你的提示词变成词元,再还原回来
model.generate | 写出后续内容,这里最多 256 个新词元
temperature | 示例里设为 0.2,让输出保持稳定
示例:你给模型一个快速排序的函数签名和一行文档字符串。它会写出后面的函数体。在依赖结果之前,请先读一遍并运行你自己的测试。
新手与专家:如果你是新手,先运行上面的斐波那契代码,确认一切都能加载。然后把签名和文档字符串改成你自己的函数。
如果你熟悉这个领域:模型是 32 层的解码器,带旋转位置嵌入、4 比 1 的分组查询注意力、QK 归一化和 SwiGLU。隐藏层大小 1536,16 个注意力头,词表 151,936 个词元。
签名和文档字符串
分词器
Maincoder-1B 解码器
代码补全
注意事项:在 HumanEval 上,作者报告该模型领先于他们比较的小型编程模型和通用模型。它的通用知识分数则低于其中一些。
Title: HumanEval 分数,越高越好
Maincoder-1B: 0.7622 score
deepseek-coder-1.3b-instruct: 0.5610 score
SmolLM3-3B: 0.5366 score
Qwen2.5-Coder-1.5B-Instruct: 0.4634 score
Qwen3-1.7B: 0.4024 score
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download Maincode/Maincoder-1B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Maincoder-1B 本页 | 451 | 101 | 1B | apache-2.0 | |
| theOG-50M共有 python · code · text-generation | 1,312 | 3 | 50.1M | apache-2.0 | |
| Terminal-RSI-27B共有 reinforcement-learning · code · text-generation | 2,536 | 33 | 27.8B | apache-2.0 | |
| ColGrep-Agent-2B共有 reinforcement-learning · code · text-generation | 1,141 | 38 | 2.5B | apache-2.0 | |
| Slonik共有 reinforcement-learning · code · text-generation | 0 | 5 | — | apache-2.0 | |
| Spark-X2.6-4B-Blender共有 code-generation · text-generation · transformers | 730 | 3 | 4.1B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。