DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
用一个能在 CPU 上运行的小模型,从普通文本里提取实体、给文本分类、抽取结构化数据并找出关系。适合想做信息抽取、又不想用 GPU 或外部 API 的开发者。
GLiNER2 base 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install gliner2
GLiNER2 base 是 fastino 发布的信息抽取模型。一个模型处理四件事。它找出命名实体,给整段文本打标签,把字段整理成结构,并通过关系把实体连起来。它的目的是让你不必搭一串独立工具,也不必调用外部 API。
你描述想要什么,比如一组实体标签或一组字段,它就按这些去读你的文本。模型卡说它是为高效的 CPU 推理做的。
需要把自由文本变成标签和字段的开发者和数据团队最适合它。它从 Python 运行。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 软件 | 后端开发者 | 从文本里提取人物、公司和产品 | 从一条新闻里提取实体 |
| 客户支持 | 支持团队 | 按情绪或主题给评论分类 | 把一条评论标成正面或负面 |
| 电商 | 商品目录团队 | 把商品描述变成字段 | 从一条商品信息里读出名称、存储和价格 |
如果你想要聊天助手,可以跳过它,因为它读取文本并返回结构,而不是对话。
你在自己的电脑上用 Python 运行它,支持 Windows、macOS 或 Linux。
| Use case | Who | What they get back |
|---|---|---|
| 实体抽取 | 开发者 | 按你的标签分组的实体字典 |
| 文本分类 | 支持团队 | 每段文本的一个或多个标签 |
| 结构化抽取 | 商品目录团队 | 名称、存储和价格之类的字段 |
你需要 Python 和 gliner2 包。按名称加载时,模型会自动下载。
pip install gliner2
pip install -U huggingface_hub hf download fastino/gliner2-base-v1
加载模型,然后调用对应任务的方法。抽取实体时,你传入文本和一组标签。
from gliner2 import GLiNER2
# Load the model
extractor = GLiNER2.from_pretrained("fastino/gliner2-base-v1")
# Extract entities
text = "Apple CEO Tim Cook announced iPhone 15 in Cupertino yesterday."
result = extractor.extract_entities(text, ["company", "person", "product", "location"])
print(result)
# Output: {'entities': {'company': ['Apple'], 'person': ['Tim Cook'], 'product': ['iPhone 15'], 'location': ['Cupertino']}}分类时,你传入文本和你允许的标签。
# Single-label classification
result = extractor.classify_text(
"This laptop has amazing performance but terrible battery life!",
{"sentiment": ["positive", "negative", "neutral"]}
)
print(result)
# Output: {'sentiment': 'negative'}| Tool | What it does |
|---|---|
| extract_entities | 按你给的标签找出实体 |
| classify_text | 给文本选一个或多个标签 |
| extract_json | 按你描述的字段从文本里填值 |
| create_schema | 构建一个合并多个任务的模式 |
| extract | 对文本运行合并后的模式 |
你传入一句话,讲苹果公司的 CEO Tim Cook 在 Cupertino 宣布一款手机,标签是 company、person、product 和 location。它返回 Apple 为公司,Tim Cook 为人物,那款手机为产品,Cupertino 为地点。
你可以把这个模型看成一个替你给文本做标记的读者。你说明要找什么,它交回标签和字段。第一个小尝试,是用你自己的句子跑上面的实体示例。
在底层,一个模型在一次前向计算里处理四种任务,运行时你用标签或模式来引导它。模型卡描述它约有 205M 个参数,CPU 优先推理,本地处理。代价是你写的标签决定你得到什么。
模型卡说处理留在本地,模型文件到了你的机器上之后不需要外部服务。
用一个能在 CPU 上运行的小模型,从普通文本里提取实体、给文本分类、抽取结构化数据并找出关系。适合想做信息抽取、又不想用 GPU 或外部 API 的开发者。
由 fastino 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:GLiNER2 base 是 fastino 发布的信息抽取模型。一个模型处理四件事。它找出命名实体,给整段文本打标签,把字段整理成结构,并通过关系把实体连起来。它的目的是让你不必搭一串独立工具,也不必调用外部 API。
你描述想要什么,比如一组实体标签或一组字段,它就按这些去读你的文本。模型卡说它是为高效的 CPU 推理做的。
适合谁:需要把自由文本变成标签和字段的开发者和数据团队最适合它。它从 Python 运行。
Industry | Who uses it | How they use it | Example
软件 | 后端开发者 | 从文本里提取人物、公司和产品 | 从一条新闻里提取实体
客户支持 | 支持团队 | 按情绪或主题给评论分类 | 把一条评论标成正面或负面
电商 | 商品目录团队 | 把商品描述变成字段 | 从一条商品信息里读出名称、存储和价格
如果你想要聊天助手,可以跳过它,因为它读取文本并返回结构,而不是对话。
用在哪里:你在自己的电脑上用 Python 运行它,支持 Windows、macOS 或 Linux。
Use case | Who | What they get back
实体抽取 | 开发者 | 按你的标签分组的实体字典
文本分类 | 支持团队 | 每段文本的一个或多个标签
结构化抽取 | 商品目录团队 | 名称、存储和价格之类的字段
如何设置:你需要 Python 和 gliner2 包。按名称加载时,模型会自动下载。
pip install gliner2
pip install -U huggingface_hub
hf download fastino/gliner2-base-v1
如何使用:加载模型,然后调用对应任务的方法。抽取实体时,你传入文本和一组标签。
from gliner2 import GLiNER2
# Load the model
extractor = GLiNER2.from_pretrained("fastino/gliner2-base-v1")
# Extract entities
text = "Apple CEO Tim Cook announced iPhone 15 in Cupertino yesterday."
result = extractor.extract_entities(text, ["company", "person", "product", "location"])
print(result)
# Output: {'entities': {'company': ['Apple'], 'person': ['Tim Cook'], 'product': ['iPhone 15'], 'location': ['Cupertino']}}
分类时,你传入文本和你允许的标签。
# Single-label classification
result = extractor.classify_text(
"This laptop has amazing performance but terrible battery life!",
{"sentiment": ["positive", "negative", "neutral"]}
)
print(result)
# Output: {'sentiment': 'negative'}
Tool | What it does
extract_entities | 按你给的标签找出实体
classify_text | 给文本选一个或多个标签
extract_json | 按你描述的字段从文本里填值
create_schema | 构建一个合并多个任务的模式
extract | 对文本运行合并后的模式
示例:你传入一句话,讲苹果公司的 CEO Tim Cook 在 Cupertino 宣布一款手机,标签是 company、person、product 和 location。它返回 Apple 为公司,Tim Cook 为人物,那款手机为产品,Cupertino 为地点。
新手与专家:你可以把这个模型看成一个替你给文本做标记的读者。你说明要找什么,它交回标签和字段。第一个小尝试,是用你自己的句子跑上面的实体示例。
在底层,一个模型在一次前向计算里处理四种任务,运行时你用标签或模式来引导它。模型卡描述它约有 205M 个参数,CPU 优先推理,本地处理。代价是你写的标签决定你得到什么。
你的文本和你的标签或模式
一个模型把它们一起读
实体、类别、字段或关系
返回一个普通的 Python 字典
注意事项:模型卡说处理留在本地,模型文件到了你的机器上之后不需要外部服务。
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download fastino/gliner2-base-v1
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| GLiNER2 base 本页 | 353,994 | 106 | 208M | apache-2.0 | |
| GLiNER2.5 Base共有 gliner2 · safetensors | 132,027 | 43 | 194M | apache-2.0 | |
| GLiNER2.5-Decide共有 gliner2 · safetensors | 89,759 | 457 | 486M | apache-2.0 | |
| GLiNER2.5 Multi共有 gliner2 · safetensors | 88,821 | 300 | 287M | apache-2.0 | |
| GLiNER2.5-multi-Decide共有 gliner2 · safetensors | 12,037 | 74 | 287M | apache-2.0 | |
| all-MiniLM-L6-v2共有 safetensors | 174,740,184 | 6,104 | 22.7M | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。