Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
按你在调用时传入的标签对文本分类,一次计算完成,不需要提示词模板。这是 287M 的模型,用于非英语文本的路由、意图、情感和审核。可在本地运行。
GLiNER2.5-multi-Decide 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install "gliner2[local]"
GLiNER2.5-multi-Decide 是一个 287M 的文本分类模型,支持多种语言。你在调用时传入标签,它一次计算就挑出一个或多个。它不生成文字,也不需要提示词模板。
它适合做消息路由、文档打标签或内容审核的开发者,尤其是文本不是英语的时候。模型卡说它是处理运营决策的专用模型,不是通用模型。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 客户支持 | 支持团队 | 把每条消息路由到正确的队列 | 退款请求进入退款队列 |
| 银行 | 运营团队 | 把客户消息对应到要打开的业务操作 | 取消转账对应到取消标签 |
| 审核 | 信任与安全团队 | 给严重程度、紧急程度或垃圾信息打标签 | 在收到的消息里标出垃圾信息 |
如果你需要会推理、会解释或能回答开放问题的模型,可以跳过它。
| Use case | Who | What they get back |
|---|---|---|
| 意图路由 | 客服开发者 | 一个标签,例如 refund_request |
| 多标签打标 | 内容团队 | 高于阈值的每一个标签 |
| 一次做多个决定 | 工作流开发者 | 一次调用里多个头的分数 |
pip install "gliner2[local]"
from gliner2 import AutoExtractor
model = AutoExtractor.from_pretrained("fastino/GLiNER2.5-multi-Decide")pip install -U huggingface_hub hf download fastino/GLiNER2.5-multi-Decide
用消息和一个标签字典调用 classify_text。单标签任务返回一个字符串。多标签任务返回高于阈值的每一个标签。
model.classify_text(
"My subscription renewed on April 15 for ¥5,400 after the service was already down. Can I get that charge refunded?",
{"intent": [
"order_status", "refund_request", "cancel_subscription", "update_payment",
"login_problem", "shipping_delay", "bug_report", "speak_to_human", "other",
]},
)| Tool | What it does |
|---|---|
| AutoExtractor.from_pretrained | 按 Hugging Face 上的名字加载模型 |
| classify_text | 对照你给的标签给文本打分 |
一位客户写道,服务中断期间订阅又续费了,希望退款。你传入上面的意图标签,模型返回一个标签,refund_request。
如果你是新手,可以把它看作一个分拣助手。你给它一条消息和一组选项,它告诉你哪个选项合适。第一件小事是运行安装那一行,再拿一条消息配三个标签试试。
如果你懂这个领域,模型用一次前向计算给标签打分,不生成任何词元,一次调用还能给多个头打分。代价是适用范围。在模型卡的 17 个领域英语测试集上它得 56.7%,低于 340M 英语模型的 60.2%,模型卡建议纯英语文本改用后者。
按你在调用时传入的标签对文本分类,一次计算完成,不需要提示词模板。这是 287M 的模型,用于非英语文本的路由、意图、情感和审核。可在本地运行。
由 fastino 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:GLiNER2.5-multi-Decide 是一个 287M 的文本分类模型,支持多种语言。你在调用时传入标签,它一次计算就挑出一个或多个。它不生成文字,也不需要提示词模板。
适合谁:它适合做消息路由、文档打标签或内容审核的开发者,尤其是文本不是英语的时候。模型卡说它是处理运营决策的专用模型,不是通用模型。
Title: 谁在用
Industry | Who uses it | How they use it | Example
客户支持 | 支持团队 | 把每条消息路由到正确的队列 | 退款请求进入退款队列
银行 | 运营团队 | 把客户消息对应到要打开的业务操作 | 取消转账对应到取消标签
审核 | 信任与安全团队 | 给严重程度、紧急程度或垃圾信息打标签 | 在收到的消息里标出垃圾信息
如果你需要会推理、会解释或能回答开放问题的模型,可以跳过它。
用在哪里:
Title: 它能做的事
Use case | Who | What they get back
意图路由 | 客服开发者 | 一个标签,例如 refund_request
多标签打标 | 内容团队 | 高于阈值的每一个标签
一次做多个决定 | 工作流开发者 | 一次调用里多个头的分数
如何设置:
pip install "gliner2[local]"
from gliner2 import AutoExtractor
model = AutoExtractor.from_pretrained("fastino/GLiNER2.5-multi-Decide")
pip install -U huggingface_hub
hf download fastino/GLiNER2.5-multi-Decide
如何使用:
用消息和一个标签字典调用 classify_text。单标签任务返回一个字符串。多标签任务返回高于阈值的每一个标签。
model.classify_text(
"My subscription renewed on April 15 for ¥5,400 after the service was already down. Can I get that charge refunded?",
{"intent": [
"order_status", "refund_request", "cancel_subscription", "update_payment",
"login_problem", "shipping_delay", "bug_report", "speak_to_human", "other",
]},
)
Title: 模型卡给出的调用
Tool | What it does
AutoExtractor.from_pretrained | 按 Hugging Face 上的名字加载模型
classify_text | 对照你给的标签给文本打分
示例:
一位客户写道,服务中断期间订阅又续费了,希望退款。你传入上面的意图标签,模型返回一个标签,refund_request。
新手与专家:
如果你是新手,可以把它看作一个分拣助手。你给它一条消息和一组选项,它告诉你哪个选项合适。第一件小事是运行安装那一行,再拿一条消息配三个标签试试。
如果你懂这个领域,模型用一次前向计算给标签打分,不生成任何词元,一次调用还能给多个头打分。代价是适用范围。在模型卡的 17 个领域英语测试集上它得 56.7%,低于 340M 英语模型的 60.2%,模型卡建议纯英语文本改用后者。
安装带 local 附加项的 gliner2
用 AutoExtractor 加载模型
传入文本和一组标签
一次前向计算给标签打分
得到一个标签或高于阈值的所有标签
注意事项:
Title: fast-decisions 上的平均精确匹配准确率
GLiNER2.5-Decide (340M): 60.2 %
GLiNER2.5-Decide-1B: 59.6 %
JevK5: 57.6 %
GLiNER2.5-multi-Decide (287M): 56.7 %
SemIf (Qwen3.5-4B): 56.4 %
GLiFormer large-v1: 49.0 %
Laya Router: 46.6 %
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download fastino/GLiNER2.5-multi-Decide
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| GLiNER2.5-multi-Decide 本页 | 12,037 | 74 | 287M | apache-2.0 | |
| GLiNER2.5 Multi共有 gliner2 · multilingual · transformers | 88,821 | 300 | 287M | apache-2.0 | |
| GLiNER2.5-Decide共有 gliner2 · decision-model · transformers | 89,759 | 457 | 486M | apache-2.0 | |
| EmbeddingGemma 2 Typed Decisions共有 multilingual · decision-model · transformers | 1,800 | 89 | 272M | apache-2.0 | |
| GLiNER2.5 Base共有 gliner2 · transformers · safetensors | 132,027 | 43 | 194M | apache-2.0 | |
| Julia 1共有 multilingual · decision-model · safetensors | 2,162 | 503 | 144M | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。