Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
读取扫描件、PDF、幻灯片和表单的页面图像,返回其中的文字、表格、图表数据、阅读顺序和边框,输出为 Markdown、HTML 或 JSON。NVIDIA 推出的 631M 参数模型,面向开发者。
Nemotron 3.5 Parse 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
python -m venv .venv source .venv/bin/activate python -m pip install transformers torchvision timm
Nemotron 3.5 Parse 是 NVIDIA 的 631M 参数模型,把文档页面图像转成结构化数据。从一张页面图像里,它给出文字、表格、图表背后的数据、阅读顺序、每个区域的标签和围住每个区域的框。你可以把结果导出为 Markdown、HTML 或结构化 JSON。
构建文档处理流水线、需要把页面图像变成代码可用数据的开发者。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 文档处理 | 流水线开发者 | 把扫描件和 PDF 转成结构化数据 | 一份扫描报告转成 Markdown |
| 金融与商业 | 分析师和数据团队 | 从报告中提取表格和图表数据 | 报告页里的一张表变成结构化输出 |
| 行政 | 后台团队 | 读取表单和混合版式 | 一张填好的表单被读成字段 |
| 演示文稿 | 内容团队 | 把幻灯片读成文字和版式 | 按阅读顺序排列的幻灯片文字 |
如果你只需要用眼睛看一份文档,或者没有 GPU,可以跳过它。
| Use case | Who | What they get back |
|---|---|---|
| 扫描件和 PDF | 开发者 | 每一页的文字、表格和阅读顺序 |
| 报告中的图表 | 分析师 | 从页面图像里提取出的图表数据 |
| 页面版式 | 流水线构建者 | 每个区域的边界框和语义类别 |
python -m venv .venv source .venv/bin/activate python -m pip install transformers torchvision timm
你也可以单独用 Hugging Face 工具取回文件。
pip install -U huggingface_hub hf download nvidia/Nemotron-3.5-Parse
对一张页面图像运行这个示例。它加载模型,连同任务提示词发送一页,并打印原始输出。请保留原始输出里的控制标记,因为后续的后处理需要它们。
import torch
from PIL import Image
from transformers import AutoModel, AutoProcessor, GenerationConfig
MODEL = "nvidia/Nemotron-3.5-Parse"
TASK_PROMPT = "</s><s><predict_bbox><predict_classes><output_markdown><predict_text_in_pic>"
model = AutoModel.from_pretrained(
MODEL, trust_remote_code=True, dtype=torch.bfloat16,
).to("cuda").eval()
processor = AutoProcessor.from_pretrained(MODEL, trust_remote_code=True)
image = Image.open("page.png").convert("RGB")
inputs = processor(
images=[image], text=TASK_PROMPT,
return_tensors="pt", add_special_tokens=False,
).to("cuda")
generation = GenerationConfig.from_pretrained(MODEL)
generation.max_new_tokens = 8744
with torch.inference_mode():
output_ids = model.generate(**inputs, generation_config=generation)
raw_output = processor.batch_decode(output_ids, skip_special_tokens=False)[0]
print(raw_output)| Tool | What it does |
|---|---|
| 文字提取 | 读取页面图像上的文字 |
| 表格 | 返回表格内容 |
| 图表数据 | 从图表中提取数据 |
| 阅读顺序 | 按人阅读的顺序排列页面内容 |
| 语义类别 | 给页面的每个区域贴上标签 |
| 边界框 | 给出每个区域的位置 |
你把一页扫描报告存成 page.png,并运行上面的脚本。模型打印出原始输出,里面有这一页的文字、表格和每个区域的边框,后处理再把它变成 Markdown 或 JSON。
如果你是新手,先试试卡片列出的 NVIDIA Build API,再去搭 GPU 环境。上传一页清晰的页面,看看返回的 Markdown。
它有 631M 参数。另有一个更小的可选辅助模型,89.3M 参数,名为 DFlash2,用 vLLM 提供服务时可以加快生成。在三遍解析的 ParseBench 上,卡片给它 75.20 分,并称这是它所比较的系统中的最高分。它还列出了对 163 个语言和文字条目的评测。这些数字都是 NVIDIA 自己给出的。
读取扫描件、PDF、幻灯片和表单的页面图像,返回其中的文字、表格、图表数据、阅读顺序和边框,输出为 Markdown、HTML 或 JSON。NVIDIA 推出的 631M 参数模型,面向开发者。
由 nvidia 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Nemotron 3.5 Parse 是 NVIDIA 的 631M 参数模型,把文档页面图像转成结构化数据。从一张页面图像里,它给出文字、表格、图表背后的数据、阅读顺序、每个区域的标签和围住每个区域的框。你可以把结果导出为 Markdown、HTML 或结构化 JSON。
适合谁:构建文档处理流水线、需要把页面图像变成代码可用数据的开发者。
Industry | Who uses it | How they use it | Example
文档处理 | 流水线开发者 | 把扫描件和 PDF 转成结构化数据 | 一份扫描报告转成 Markdown
金融与商业 | 分析师和数据团队 | 从报告中提取表格和图表数据 | 报告页里的一张表变成结构化输出
行政 | 后台团队 | 读取表单和混合版式 | 一张填好的表单被读成字段
演示文稿 | 内容团队 | 把幻灯片读成文字和版式 | 按阅读顺序排列的幻灯片文字
如果你只需要用眼睛看一份文档,或者没有 GPU,可以跳过它。
用在哪里:
Use case | Who | What they get back
扫描件和 PDF | 开发者 | 每一页的文字、表格和阅读顺序
报告中的图表 | 分析师 | 从页面图像里提取出的图表数据
页面版式 | 流水线构建者 | 每个区域的边界框和语义类别
如何设置:
python -m venv .venv
source .venv/bin/activate
python -m pip install transformers torchvision timm
你也可以单独用 Hugging Face 工具取回文件。
pip install -U huggingface_hub
hf download nvidia/Nemotron-3.5-Parse
如何使用:对一张页面图像运行这个示例。它加载模型,连同任务提示词发送一页,并打印原始输出。请保留原始输出里的控制标记,因为后续的后处理需要它们。
import torch
from PIL import Image
from transformers import AutoModel, AutoProcessor, GenerationConfig
MODEL = "nvidia/Nemotron-3.5-Parse"
TASK_PROMPT = "</s><s><predict_bbox><predict_classes><output_markdown><predict_text_in_pic>"
model = AutoModel.from_pretrained(
MODEL, trust_remote_code=True, dtype=torch.bfloat16,
).to("cuda").eval()
processor = AutoProcessor.from_pretrained(MODEL, trust_remote_code=True)
image = Image.open("page.png").convert("RGB")
inputs = processor(
images=[image], text=TASK_PROMPT,
return_tensors="pt", add_special_tokens=False,
).to("cuda")
generation = GenerationConfig.from_pretrained(MODEL)
generation.max_new_tokens = 8744
with torch.inference_mode():
output_ids = model.generate(**inputs, generation_config=generation)
raw_output = processor.batch_decode(output_ids, skip_special_tokens=False)[0]
print(raw_output)
Tool | What it does
文字提取 | 读取页面图像上的文字
表格 | 返回表格内容
图表数据 | 从图表中提取数据
阅读顺序 | 按人阅读的顺序排列页面内容
语义类别 | 给页面的每个区域贴上标签
边界框 | 给出每个区域的位置
示例:你把一页扫描报告存成 page.png,并运行上面的脚本。模型打印出原始输出,里面有这一页的文字、表格和每个区域的边框,后处理再把它变成 Markdown 或 JSON。
新手与专家:如果你是新手,先试试卡片列出的 NVIDIA Build API,再去搭 GPU 环境。上传一页清晰的页面,看看返回的 Markdown。
它有 631M 参数。另有一个更小的可选辅助模型,89.3M 参数,名为 DFlash2,用 vLLM 提供服务时可以加快生成。在三遍解析的 ParseBench 上,卡片给它 75.20 分,并称这是它所比较的系统中的最高分。它还列出了对 163 个语言和文字条目的评测。这些数字都是 NVIDIA 自己给出的。
把文档页面存成图像
连同任务提示词发送
模型返回文字、表格和边框
后处理成 Markdown、HTML 或 JSON
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download nvidia/Nemotron-3.5-Parse
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Nemotron 3.5 Parse 本页 | 23,202 | 161 | 631M | openmdw-1.1 | |
| DeepSeek-V4.1-Flash共有 image-text-to-text · text-generation · conversational | 1,759,335 | 4,949 | 763B | mit | |
| Ornith-1.5-35B-A3B-NVFP4共有 image-text-to-text · text-generation · conversational | 1,124,337 | 73 | 19.5B | mit | |
| Ornith-1.5-9B共有 image-text-to-text · text-generation · conversational | 534,050 | 414 | 9.7B | mit | |
| DeepSeek-V4.1-Flash-1017共有 image-text-to-text · text-generation · conversational | 398,161 | 5,600 | 763B | mit | |
| Ornith-1.5-122B-NVFP4共有 image-text-to-text · text-generation · conversational | 279,663 | 36 | 64B | mit |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。