Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式,它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型,适合处理文档的开发者。
lift 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install lift-pdf lift_vllm lift_extract input.pdf ./output --schema schema.json
lift 是 Datalab 的文档提取模型。它读取 PDF 和图像,返回结构化的 JSON。你给它一个 JSON 模式,它在这个模式的约束下解码,所以结果是有效的,类型也正确。它一次读完一份多页文档,包括跨页的值。它有 9.7B 参数,BF16 格式约 19.3 GB。
如果你是开发者,要把发票、报告和表单变成数据库记录,并想在自己的硬件上运行提取,它很适合你。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 金融 | 处理发票的团队 | 从发票 PDF 中提取字段和明细行 | 一个包含发票号、总额和明细列表的模式 |
| 运营 | 后台开发者 | 把表单和报告变成结构化记录 | 页面上缺失的字段会返回 null |
| 研究 | 构建文档流水线的团队 | 比较在长文档上的提取准确率 | 模型卡测试了 225 份文档,约有 11,000 个计分字段 |
如果你只需要页面里的纯文本,可以跳过它,因为它是为填写模式而设计的,而且权重的许可证对竞争性使用有限制。
| Use case | Who | What they get back |
|---|---|---|
| 发票提取 | 金融开发者 | 一个带有发票号、总额和明细行的 JSON 对象 |
| 多页报告 | 数据工程师 | 一次读完就收集齐的跨页数值 |
| 模式设计与测试 | 分析师 | Schema Studio,一个用来起草并试用模式的小应用,可用样例文件测试 |
你需要 Python、走 vLLM 路线所需的 GPU,以及放得下权重的空间。
pip install lift-pdf lift_vllm lift_extract input.pdf ./output --schema schema.json
如果想用 Hugging Face 工具自己下载模型文件,用这两行:
pip install -U huggingface_hub hf download datalab-to/lift
模式就是标准的 JSON Schema。支持字符串、数字、整数、布尔值、数组和嵌套对象。给名称不清楚的字段加上描述,只有必须出现的字段才标为必填。在 Python 里,先启动服务器,再调用 extract:
from lift import extract
from lift.model import InferenceManager
# Start the vLLM server first with: lift_vllm
model = InferenceManager(method="vllm")
result = extract("document.pdf", "schema.json", model=model)
print(result.extraction)| Tool | What it does |
|---|---|
| lift_vllm | 启动本地 vLLM 服务器 |
| lift_extract | 提取单个文件或一个文件夹的命令行 |
| extract | 接收文档和模式的 Python 函数 |
| InferenceManager | 在 vllm 和 hf 两种方式之间选择 |
| page_range | 限制要读取的 PDF 页面 |
| VLLM_API_BASE | 让客户端指向远程服务器 |
你要一个发票号、一个总额和一个明细列表。lift 读取 PDF,返回一个带这三个键的 JSON 对象。文档里没有的字段会返回 null,而不是猜一个值。
把它想成一个文员,从一堆纸里替你填表,而这张表就是你的模式。第一个小尝试是一份发票 PDF 加一个三字段的模式。
受约束的解码意味着输出总能被解析并符合你的类型,不过一个有效的值仍然可能是错的。模型卡按精确匹配给每个字段打分,数字有容差。它报告模型答对了 90.2% 的字段,但只有 20.9% 的整份文档完全答对,所以长文档仍然需要复核。
模型卡在它自己的基准上把 lift 与其他选项做了比较。延迟是每份文档、8 个并发请求下的数值,所以请当作相对值。
| Model | Field accuracy | Full-document accuracy | Median latency |
|---|---|---|---|
| Datalab API | 95.9% | 44.4% | 30.8s |
| Gemini Flash 3.5 | 91.3% | 40.0% | 28.1s |
| lift | 90.2% | 20.9% | 9.5s |
| Azure Content Understanding | 83.4% | 22.2% | 73.7s |
| NuExtract3 | 81.5% | 8.4% | 8.3s |
| Qwen3.5-9B | 76.3% | 24.0% | 16.8s |
从 PDF 和图像中提取结构化数据。你提供一个 JSON 模式,它返回与之匹配的对象。这是 Datalab 的 9.7B 视觉语言模型,适合处理文档的开发者。
由 datalab-to 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:lift 是 Datalab 的文档提取模型。它读取 PDF 和图像,返回结构化的 JSON。你给它一个 JSON 模式,它在这个模式的约束下解码,所以结果是有效的,类型也正确。它一次读完一份多页文档,包括跨页的值。它有 9.7B 参数,BF16 格式约 19.3 GB。
适合谁:如果你是开发者,要把发票、报告和表单变成数据库记录,并想在自己的硬件上运行提取,它很适合你。
Industry | Who uses it | How they use it | Example
金融 | 处理发票的团队 | 从发票 PDF 中提取字段和明细行 | 一个包含发票号、总额和明细列表的模式
运营 | 后台开发者 | 把表单和报告变成结构化记录 | 页面上缺失的字段会返回 null
研究 | 构建文档流水线的团队 | 比较在长文档上的提取准确率 | 模型卡测试了 225 份文档,约有 11,000 个计分字段
如果你只需要页面里的纯文本,可以跳过它,因为它是为填写模式而设计的,而且权重的许可证对竞争性使用有限制。
用在哪里:
Use case | Who | What they get back
发票提取 | 金融开发者 | 一个带有发票号、总额和明细行的 JSON 对象
多页报告 | 数据工程师 | 一次读完就收集齐的跨页数值
模式设计与测试 | 分析师 | Schema Studio,一个用来起草并试用模式的小应用,可用样例文件测试
如何设置:你需要 Python、走 vLLM 路线所需的 GPU,以及放得下权重的空间。
pip install lift-pdf
lift_vllm
lift_extract input.pdf ./output --schema schema.json
如果想用 Hugging Face 工具自己下载模型文件,用这两行:
pip install -U huggingface_hub
hf download datalab-to/lift
如何使用:模式就是标准的 JSON Schema。支持字符串、数字、整数、布尔值、数组和嵌套对象。给名称不清楚的字段加上描述,只有必须出现的字段才标为必填。在 Python 里,先启动服务器,再调用 extract:
from lift import extract
from lift.model import InferenceManager
# Start the vLLM server first with: lift_vllm
model = InferenceManager(method="vllm")
result = extract("document.pdf", "schema.json", model=model)
print(result.extraction)
Tool | What it does
lift_vllm | 启动本地 vLLM 服务器
lift_extract | 提取单个文件或一个文件夹的命令行
extract | 接收文档和模式的 Python 函数
InferenceManager | 在 vllm 和 hf 两种方式之间选择
page_range | 限制要读取的 PDF 页面
VLLM_API_BASE | 让客户端指向远程服务器
示例:你要一个发票号、一个总额和一个明细列表。lift 读取 PDF,返回一个带这三个键的 JSON 对象。文档里没有的字段会返回 null,而不是猜一个值。
新手与专家:把它想成一个文员,从一堆纸里替你填表,而这张表就是你的模式。第一个小尝试是一份发票 PDF 加一个三字段的模式。
受约束的解码意味着输出总能被解析并符合你的类型,不过一个有效的值仍然可能是错的。模型卡按精确匹配给每个字段打分,数字有容差。它报告模型答对了 90.2% 的字段,但只有 20.9% 的整份文档完全答对,所以长文档仍然需要复核。
写一个 JSON 模式
启动 vLLM 服务器或加载模型
把 PDF 和模式传给 extract
模型在模式约束下解码
读取 JSON 结果
注意事项:模型卡在它自己的基准上把 lift 与其他选项做了比较。延迟是每份文档、8 个并发请求下的数值,所以请当作相对值。
Title: 模型卡的基准
Model | Field accuracy | Full-document accuracy | Median latency
Datalab API | 95.9% | 44.4% | 30.8s
Gemini Flash 3.5 | 91.3% | 40.0% | 28.1s
lift | 90.2% | 20.9% | 9.5s
Azure Content Understanding | 83.4% | 22.2% | 73.7s
NuExtract3 | 81.5% | 8.4% | 8.3s
Qwen3.5-9B | 76.3% | 24.0% | 16.8s
Title: 模型卡 225 份文档测试中的字段准确率
Datalab API: 95.9 %
Gemini Flash 3.5: 91.3 %
lift: 90.2 %
Azure Content Understanding: 83.4 %
NuExtract3: 81.5 %
Qwen3.5-9B: 76.3 %
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download datalab-to/lift
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 7 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| lift 本页 | 11,454 | 210 | 9.7B | openrail | |
| THX-01共有 extraction · safetensors | 789 | 93 | 322M | apache-2.0 | |
| Parallel Constrained Decoding for Apple Silicon共有 json | 0 | 592 | — | apache-2.0 | |
| Qwen3.8-27B共有 qwen3_5 · image-text-to-text · conversational | 6,960,395 | 19,795 | 27.8B | apache-2.0 | |
| Qwen3.5-9B共有 qwen3_5 · image-text-to-text · conversational | 6,259,809 | 2,353 | 9.7B | apache-2.0 | |
| Qwen3.8-27B-FP8共有 qwen3_5 · image-text-to-text · conversational | 5,442,810 | 984 | 27.8B | apache-2.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。