Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
这个模型接收一段文本、一个问题和一组可能的答案,选出最好的一个,用于分类、路由、有序评分和是非判断。是一个 144M 模型,适合在 PyTorch 里测试路由的开发者。
Julia 1 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download SupersonicLabs/Julia-1
Julia 1 是一个 144M 参数的小模型,根据三项输入做出一个决定。你给它上下文、一个问题和一组可能的答案。同一个接口可以把文本归入标签、做路由、给有序评分,以及做是非判断。模型卡把它说成 Julia 系列的首个发布,也是作者训练配置的一次初步尝试。
适合想用明确的候选答案尝试基于模型的路由和分类的开发者,许可证为 Apache 2.0。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 客服 | 客服平台团队 | 把一条消息路由给合适的团队 | 把账单投诉发给账单组 |
| 软件 | 应用开发者 | 用固定的类别给文本打标签 | 把一条新闻标成体育或商业 |
| 运营 | 工作流构建者 | 针对一条记录问是非问题 | 判断一张工单是否紧急 |
| 研究 | 机器学习研究人员 | 在新的标签集上测试紧凑的决策模型 | 比较有无候选名单时的准确率 |
如果你需要模型补上缺失的事实或者完成很长的计算,可以跳过它。模型卡说这些能力没有被它的测试证明。如果你想在没有用自己的问题检验之前就拿到最终答案,也可以跳过。
它是一个 PyTorch 模型,在 Python 里运行。
| Use case | Who | What they get back |
|---|---|---|
| 打标签 | 开发者 | 你的列表里最合适的标签 |
| 路由 | 平台团队 | 适合这条消息的团队或队列 |
| 是非检查 | 工作流构建者 | 一个是或否的判断 |
| 有序评分 | 分析人员 | 有序刻度上的一个等级 |
你需要 Python 和 PyTorch。
pip install -U huggingface_hub hf download SupersonicLabs/Julia-1
用上下文、一个问题和候选答案构造一个请求。请求可以是在选项中做选择、有序评分,或者布尔的 noul 判断。一次原生调用可接受 2 到 20 个选项。模型卡说要使用严格编码。这里给出的模型卡文字在代码之前就结束了,具体调用请按模型卡来。
| Tool | What it does |
|---|---|
| choice | 从 2 到 20 个选项里选出一个答案 |
| score | 给出有序刻度上的一个等级 |
| noul | 回答一个布尔问题 |
| Router | 按分组缩小长的选择列表,再对留下来的重新排序 |
上下文是一条客户消息,说信用卡被扣了两次。问题问的是哪个团队来处理,选项是账单、技术支持和销售。模型会选出最合适的选项。
如果你刚接触这个,可以把它看成做选择题的人。它读上下文,比较你给出的答案,不会自己编新的答案。先用自己的几个案例测一测。
如果你熟悉这个领域:这些分数是在 2026-09-24 用一块 H200 GPU 以 BF16 精度并带严格编码测得的。试点每个数据集用 100 个样本。Banking77 试点是用 top-16 候选名单跑 72 个标签,而不是一次原生调用,弃权算错。Jev 的数字是提供的参考值,不是新跑的结果。分组后的 Router 结果不是全局概率分布。从 mmBERT-small 到 Julia 1 的那一节在这里给出的文字里被截掉了。
模型卡报告它的类型化决策得分为 73.15%,AG News 试点为 94.00%,DAIR Emotion 试点为 86.00%。Banking77 试点为 64.00%,低于提供的参考值 87.00%。模型卡把这些试点称为令人鼓舞的信号,而不是保证。
这个模型接收一段文本、一个问题和一组可能的答案,选出最好的一个,用于分类、路由、有序评分和是非判断。是一个 144M 模型,适合在 PyTorch 里测试路由的开发者。
由 SupersonicLabs 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Julia 1 是一个 144M 参数的小模型,根据三项输入做出一个决定。你给它上下文、一个问题和一组可能的答案。同一个接口可以把文本归入标签、做路由、给有序评分,以及做是非判断。模型卡把它说成 Julia 系列的首个发布,也是作者训练配置的一次初步尝试。
适合谁:适合想用明确的候选答案尝试基于模型的路由和分类的开发者,许可证为 Apache 2.0。
Industry | Who uses it | How they use it | Example
客服 | 客服平台团队 | 把一条消息路由给合适的团队 | 把账单投诉发给账单组
软件 | 应用开发者 | 用固定的类别给文本打标签 | 把一条新闻标成体育或商业
运营 | 工作流构建者 | 针对一条记录问是非问题 | 判断一张工单是否紧急
研究 | 机器学习研究人员 | 在新的标签集上测试紧凑的决策模型 | 比较有无候选名单时的准确率
如果你需要模型补上缺失的事实或者完成很长的计算,可以跳过它。模型卡说这些能力没有被它的测试证明。如果你想在没有用自己的问题检验之前就拿到最终答案,也可以跳过。
用在哪里:它是一个 PyTorch 模型,在 Python 里运行。
Use case | Who | What they get back
打标签 | 开发者 | 你的列表里最合适的标签
路由 | 平台团队 | 适合这条消息的团队或队列
是非检查 | 工作流构建者 | 一个是或否的判断
有序评分 | 分析人员 | 有序刻度上的一个等级
如何设置:你需要 Python 和 PyTorch。
pip install -U huggingface_hub
hf download SupersonicLabs/Julia-1
如何使用:用上下文、一个问题和候选答案构造一个请求。请求可以是在选项中做选择、有序评分,或者布尔的 noul 判断。一次原生调用可接受 2 到 20 个选项。模型卡说要使用严格编码。这里给出的模型卡文字在代码之前就结束了,具体调用请按模型卡来。
Tool | What it does
choice | 从 2 到 20 个选项里选出一个答案
score | 给出有序刻度上的一个等级
noul | 回答一个布尔问题
Router | 按分组缩小长的选择列表,再对留下来的重新排序
示例:上下文是一条客户消息,说信用卡被扣了两次。问题问的是哪个团队来处理,选项是账单、技术支持和销售。模型会选出最合适的选项。
新手与专家:如果你刚接触这个,可以把它看成做选择题的人。它读上下文,比较你给出的答案,不会自己编新的答案。先用自己的几个案例测一测。
如果你熟悉这个领域:这些分数是在 2026-09-24 用一块 H200 GPU 以 BF16 精度并带严格编码测得的。试点每个数据集用 100 个样本。Banking77 试点是用 top-16 候选名单跑 72 个标签,而不是一次原生调用,弃权算错。Jev 的数字是提供的参考值,不是新跑的结果。分组后的 Router 结果不是全局概率分布。从 mmBERT-small 到 Julia 1 的那一节在这里给出的文字里被截掉了。
写下上下文
提一个问题
列出候选答案
用严格编码运行模型
读取选出的答案
注意事项:模型卡报告它的类型化决策得分为 73.15%,AG News 试点为 94.00%,DAIR Emotion 试点为 86.00%。Banking77 试点为 64.00%,低于提供的参考值 87.00%。模型卡把这些试点称为令人鼓舞的信号,而不是保证。
Title: Julia 1 在各基准上的准确率
AG News pilot: 94.00%
DAIR Emotion pilot: 86.00%
Typed decisions: 73.15%
MASSIVE, all 52 locales: 71.50%
Banking77 pilot: 64.00%
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download SupersonicLabs/Julia-1
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Julia 1 本页 | 2,162 | 503 | 144M | apache-2.0 | |
| Seb-9B-v2共有 routing · text-classification · decision-model | 265 | 4 | 9.7B | apache-2.0 | |
| THX-01共有 routing · multilingual · decision-model | 789 | 93 | 322M | apache-2.0 | |
| EmbeddingGemma 2 Typed Decisions共有 text-classification · multilingual · decision-model | 1,800 | 89 | 272M | apache-2.0 | |
| pplx-decider-flash-v1.2共有 text-classification · decision-model · pytorch | 7,052 | 78 | 4.5B | apache-2.0 | |
| pplx-decider-v1.2共有 text-classification · decision-model · pytorch | 5,700 | 74 | 26.1B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。