Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
用同一个模式从英文文本中抽取实体、关系和结构化记录,并给文本分类,在本地的 CPU、CUDA 或 MPS 上运行。适合构建文本抽取流程的开发者。
GLiNER2.5 Base 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install "gliner2[local]"
GLiNER2.5 Base 是 fastino 的 GLiNER2.5 系列里的英文检查点,规模相当于 DeBERTa-v3-base。同一个模式能驱动多种任务:命名实体、文本分类、结构化记录、关系和片段属性。
它的边界设计把稀疏的起点和终点配对,所以片段可以是编码窗口里放得下的任意长度。它在你自己的机器上运行,不需要外部 API。
要把英文文本变成标签、记录和关系的开发者和数据团队最适合它。它从 Python 运行。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 后端开发者 | 从文本里提取人物、公司和产品 | 在一条新闻里标出带字符偏移的实体 |
| 数据运营 | 数据团队 | 把自由文本变成结构化记录 | 根据商品描述填写字段 |
| 研究 | NLP 研究人员 | 研究带约束解码的模式驱动抽取 | 把实体和关系连成一张带类型的图 |
如果你使用其他语言,可以跳过它,因为这个检查点只支持英语。另有一个多语言检查点。
你在自己的电脑上用 Python 运行它。
| Use case | Who | What they get back |
|---|---|---|
| 实体抽取 | 开发者 | 带文本、偏移和置信度的实体 |
| 分类 | 数据团队 | 每段文本的标签 |
| 结构化记录 | 数据团队 | 从自由文本填好的字段 |
| 实体关系图 | 研究人员 | 实体之间带类型的连接 |
你需要 Python 3.10 或更新版本,以及带 local 附加项的 gliner2 包,它会装上 PyTorch。
pip install "gliner2[local]"
pip install -U huggingface_hub hf download fastino/gliner2.5-base-v1
加载这个检查点时一定要用 AutoExtractor。较老的 GLiNER2 加载器是给片段模型用的,不会分派到它。
from gliner2 import AutoExtractor
model = AutoExtractor.from_pretrained("fastino/gliner2.5-base-v1")
print(type(model).__name__)
print(model.config.architecture)
# BoundaryExtractor
# boundary然后用文本和你的标签调用 extract_entities。下面两个选项会加上置信度和字符范围。
text = "Apple CEO Tim Cook announced iPhone 15 in Cupertino yesterday."
result = model.extract_entities(
text,
["company", "person", "product", "location"],
include_confidence=True,
include_spans=True,
)
print(result)| Tool | What it does |
|---|---|
| AutoExtractor | 加载检查点并选择它的架构 |
| extract_entities | 按你给的标签找出实体 |
| Classifier | 跨任务应用标签约束 |
| JointIE | 构建带类型的实体和关系图 |
你传入一句话,讲一家公司的 CEO 在某个城市宣布一款手机,标签是 company、person、product 和 location。每个匹配都带着它的文本、字符偏移和置信度返回。
你可以把这个模型看成一个替你给文本做标记的读者。你说明要找什么,它返回匹配。第一个小尝试,是用你自己的句子跑上面的实体示例。
在底层,边界架构稀疏地配对起点和终点,而不是给固定宽度的片段网格打分。偏移是指向你字符串的半开字符区间。约束解码加入了跨任务的标签限制和带类型的实体关系图。记录里列出 194M 个参数。
有两个同系列检查点共用同一个公开 API,而这张模型卡只介绍 base 这一个。
| Model | Parameters | Encoder | Use case |
|---|---|---|---|
| gliner2.5-small-v1 | 74M | DeBERTa-v3-xsmall | 在 CPU 上快速抽取和分类 |
| gliner2.5-base-v1 | 194M | DeBERTa-v3-base | 默认的英文多任务检查点 |
| gliner2.5-multi-v1 | 287M | mDeBERTa-v3-base | 默认的多语言多任务检查点 |
用同一个模式从英文文本中抽取实体、关系和结构化记录,并给文本分类,在本地的 CPU、CUDA 或 MPS 上运行。适合构建文本抽取流程的开发者。
由 fastino 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:GLiNER2.5 Base 是 fastino 的 GLiNER2.5 系列里的英文检查点,规模相当于 DeBERTa-v3-base。同一个模式能驱动多种任务:命名实体、文本分类、结构化记录、关系和片段属性。
它的边界设计把稀疏的起点和终点配对,所以片段可以是编码窗口里放得下的任意长度。它在你自己的机器上运行,不需要外部 API。
适合谁:要把英文文本变成标签、记录和关系的开发者和数据团队最适合它。它从 Python 运行。
Industry | Who uses it | How they use it | Example
软件 | 后端开发者 | 从文本里提取人物、公司和产品 | 在一条新闻里标出带字符偏移的实体
数据运营 | 数据团队 | 把自由文本变成结构化记录 | 根据商品描述填写字段
研究 | NLP 研究人员 | 研究带约束解码的模式驱动抽取 | 把实体和关系连成一张带类型的图
如果你使用其他语言,可以跳过它,因为这个检查点只支持英语。另有一个多语言检查点。
用在哪里:你在自己的电脑上用 Python 运行它。
Use case | Who | What they get back
实体抽取 | 开发者 | 带文本、偏移和置信度的实体
分类 | 数据团队 | 每段文本的标签
结构化记录 | 数据团队 | 从自由文本填好的字段
实体关系图 | 研究人员 | 实体之间带类型的连接
如何设置:你需要 Python 3.10 或更新版本,以及带 local 附加项的 gliner2 包,它会装上 PyTorch。
pip install "gliner2[local]"
pip install -U huggingface_hub
hf download fastino/gliner2.5-base-v1
如何使用:加载这个检查点时一定要用 AutoExtractor。较老的 GLiNER2 加载器是给片段模型用的,不会分派到它。
from gliner2 import AutoExtractor
model = AutoExtractor.from_pretrained("fastino/gliner2.5-base-v1")
print(type(model).__name__)
print(model.config.architecture)
# BoundaryExtractor
# boundary
然后用文本和你的标签调用 extract_entities。下面两个选项会加上置信度和字符范围。
text = "Apple CEO Tim Cook announced iPhone 15 in Cupertino yesterday."
result = model.extract_entities(
text,
["company", "person", "product", "location"],
include_confidence=True,
include_spans=True,
)
print(result)
Tool | What it does
AutoExtractor | 加载检查点并选择它的架构
extract_entities | 按你给的标签找出实体
Classifier | 跨任务应用标签约束
JointIE | 构建带类型的实体和关系图
示例:你传入一句话,讲一家公司的 CEO 在某个城市宣布一款手机,标签是 company、person、product 和 location。每个匹配都带着它的文本、字符偏移和置信度返回。
新手与专家:你可以把这个模型看成一个替你给文本做标记的读者。你说明要找什么,它返回匹配。第一个小尝试,是用你自己的句子跑上面的实体示例。
在底层,边界架构稀疏地配对起点和终点,而不是给固定宽度的片段网格打分。偏移是指向你字符串的半开字符区间。约束解码加入了跨任务的标签限制和带类型的实体关系图。记录里列出 194M 个参数。
你的文本和模式或标签
边界抽取器配对起点和终点
约束解码应用标签规则
匹配带着偏移和分数返回
注意事项:有两个同系列检查点共用同一个公开 API,而这张模型卡只介绍 base 这一个。
Title: GLiNER2.5 系列
Model | Parameters | Encoder | Use case
gliner2.5-small-v1 | 74M | DeBERTa-v3-xsmall | 在 CPU 上快速抽取和分类
gliner2.5-base-v1 | 194M | DeBERTa-v3-base | 默认的英文多任务检查点
gliner2.5-multi-v1 | 287M | mDeBERTa-v3-base | 默认的多语言多任务检查点
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download fastino/gliner2.5-base-v1
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| GLiNER2.5 Base 本页 | 132,027 | 43 | 194M | apache-2.0 | |
| GLiNER2.5 Multi共有 boundary-extraction · information-extraction · gliner2 | 88,821 | 300 | 287M | apache-2.0 | |
| UltraBERT-150M-clairic-extraction共有 information-extraction · transformers · safetensors | 138 | 5 | 151M | apache-2.0 | |
| GLiNER2.5-Decide共有 gliner2 · transformers · safetensors | 89,759 | 457 | 486M | apache-2.0 | |
| GLiNER2.5-multi-Decide共有 gliner2 · transformers · safetensors | 12,037 | 74 | 287M | apache-2.0 | |
| GLiNER2 base共有 gliner2 · safetensors | 353,994 | 106 | 208M | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。