Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
对英文文本按你在调用时传入的任意标签集进行分类,比如意图、路由、情感或紧急程度,一次完成,不需要提示词模板。这是 Fastino 推出的面向运营决策的小型专用模型。
GLiNER2.5-Decide 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install "gliner2[local]"
GLiNER2.5-Decide 是 Fastino 推出的英文文本分类模型。你在调用时给它一段文本和一组标签,它会选出匹配的一个或多个标签。它不写文本,也不做推理,不需要提示词模板,是为运营决策而设计的。
适合给工单分流、给消息打标签或筛查内容的开发者,他们想要小型本地分类器,而不是大型语言模型。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 客户支持 | 支持工程师 | 把进来的消息分到正确的队列 | 退款请求还是登录问题 |
| 银行 | 产品团队 | 按意图给客户请求打标签 | 一笔卡片争议或一个余额问题 |
| 内容审核 | 信任与安全团队 | 为严重程度、紧急程度或垃圾信息打分 | 一份被标为紧急的举报 |
| 运营 | IT 团队 | 给邮件和工单分类,或决定是否转人工 | 被送到正确团队的工单 |
如果你需要开放式回答或多语言输入,可以跳过它,因为模型卡为此指向了另一个多语言版本。
| Use case | Who | What they get back |
|---|---|---|
| 意图识别 | 支持团队 | 从你的列表里选出一个标签,比如 refund_request |
| 多标签打标 | 分析人员 | 分数超过阈值的每个标签 |
| 情感和优先级 | 运营团队 | 来自你定义的量表的一个标签 |
pip install "gliner2[local]"
from gliner2 import AutoExtractor
model = AutoExtractor.from_pretrained("fastino/GLiNER2.5-Decide")用文本和一个把任务名映射到标签的字典调用 classify_text。单标签任务返回一个字符串,多标签任务返回高于阈值的每个标签。一次调用可以同时为多个任务打分。
model.classify_text(
"My subscription renewed on April 15 for ¥5,400 after the service was already down. Can I get that charge refunded?",
{"intent": [
"order_status", "refund_request", "cancel_subscription", "update_payment",
"login_problem", "shipping_delay", "bug_report", "speak_to_human", "other",
]},
)| Tool | What it does |
|---|---|
| AutoExtractor | 从 Hugging Face 加载模型 |
| classify_text | 按你传入的标签为文本打分 |
| label set | 任意标签列表,包括带说明的标签 |
| threshold | 决定多标签任务里哪些标签算数 |
你发送一条客户在服务中断后要求退款的消息,以及一份意图标签列表。模型返回一个标签 refund_request,这样你的系统可以马上启动退款流程。
先用一条消息和四五个清晰的标签试试,看哪个标签被返回。把标签写成简短、彼此不同的名称,效果更好。
模型卡描述的是一次前向传播,不生成任何 token,所以调用快速且在本地运行。在覆盖 17 个领域的精确匹配基准上,GLiNER2.5-Decide 平均得分 60.2%。同一个调用还能回答关于一段文字的问题、给一本书分类,或为有序量表打分。
对英文文本按你在调用时传入的任意标签集进行分类,比如意图、路由、情感或紧急程度,一次完成,不需要提示词模板。这是 Fastino 推出的面向运营决策的小型专用模型。
由 fastino 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:GLiNER2.5-Decide 是 Fastino 推出的英文文本分类模型。你在调用时给它一段文本和一组标签,它会选出匹配的一个或多个标签。它不写文本,也不做推理,不需要提示词模板,是为运营决策而设计的。
适合谁:适合给工单分流、给消息打标签或筛查内容的开发者,他们想要小型本地分类器,而不是大型语言模型。
Industry | Who uses it | How they use it | Example
客户支持 | 支持工程师 | 把进来的消息分到正确的队列 | 退款请求还是登录问题
银行 | 产品团队 | 按意图给客户请求打标签 | 一笔卡片争议或一个余额问题
内容审核 | 信任与安全团队 | 为严重程度、紧急程度或垃圾信息打分 | 一份被标为紧急的举报
运营 | IT 团队 | 给邮件和工单分类,或决定是否转人工 | 被送到正确团队的工单
如果你需要开放式回答或多语言输入,可以跳过它,因为模型卡为此指向了另一个多语言版本。
用在哪里:
Use case | Who | What they get back
意图识别 | 支持团队 | 从你的列表里选出一个标签,比如 refund_request
多标签打标 | 分析人员 | 分数超过阈值的每个标签
情感和优先级 | 运营团队 | 来自你定义的量表的一个标签
如何设置:
pip install "gliner2[local]"
from gliner2 import AutoExtractor
model = AutoExtractor.from_pretrained("fastino/GLiNER2.5-Decide")
如何使用:用文本和一个把任务名映射到标签的字典调用 classify_text。单标签任务返回一个字符串,多标签任务返回高于阈值的每个标签。一次调用可以同时为多个任务打分。
model.classify_text(
"My subscription renewed on April 15 for ¥5,400 after the service was already down. Can I get that charge refunded?",
{"intent": [
"order_status", "refund_request", "cancel_subscription", "update_payment",
"login_problem", "shipping_delay", "bug_report", "speak_to_human", "other",
]},
)
Tool | What it does
AutoExtractor | 从 Hugging Face 加载模型
classify_text | 按你传入的标签为文本打分
label set | 任意标签列表,包括带说明的标签
threshold | 决定多标签任务里哪些标签算数
示例:你发送一条客户在服务中断后要求退款的消息,以及一份意图标签列表。模型返回一个标签 refund_request,这样你的系统可以马上启动退款流程。
新手与专家:先用一条消息和四五个清晰的标签试试,看哪个标签被返回。把标签写成简短、彼此不同的名称,效果更好。
模型卡描述的是一次前向传播,不生成任何 token,所以调用快速且在本地运行。在覆盖 17 个领域的精确匹配基准上,GLiNER2.5-Decide 平均得分 60.2%。同一个调用还能回答关于一段文字的问题、给一本书分类,或为有序量表打分。
传入文本和标签集
一次前向传播为标签打分
单标签返回一个字符串
多标签返回高于阈值的标签
注意事项:
Title: fast-decisions 上的精确匹配准确率,单位为百分比
GLiNER2.5-Decide: 60.2 %
GLiNER2.5-Decide-1B: 59.6 %
JevK5: 57.6 %
GLiNER2.5-multi-Decide: 56.7 %
SemIf: 56.4 %
GLiFormer large-v1: 49.0 %
Laya Router: 46.6 %
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download fastino/GLiNER2.5-Decide
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| GLiNER2.5-Decide 本页 | 89,759 | 457 | 486M | apache-2.0 | |
| GLiNER2.5-multi-Decide共有 gliner2 · decision-model · transformers | 12,037 | 74 | 287M | apache-2.0 | |
| Jev-Omni共有 text-classification · decision-model · transformers | 3,744 | 450 | 12B | apache-2.0 | |
| Mica v0.1 4B共有 text-classification · decision-model · transformers | 3,436 | 52 | 4.2B | apache-2.0 | |
| EmbeddingGemma 2 Typed Decisions共有 text-classification · decision-model · transformers | 1,800 | 89 | 272M | apache-2.0 | |
| Seb-9B-v2共有 text-classification · decision-model · transformers | 265 | 4 | 9.7B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。