Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
把文档页面图片解析成文字、表格和图表,并保留 markdown 格式。这是 1.2B 参数的模型,图表提取更好,适合构建文档流水线的开发者。
rakedoc-nano-2 是一款工具包,属于开发类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download cloudraker/rakedoc-nano-2
rakedoc-nano-2 是基于 Qwen2-VL 架构的 1.2B 参数文档解析器。CloudRaker 从 KDL-Frontier-Parser-nano-v2 微调而来,改进了图表提取和文字格式。调整后的权重已经以 bf16 合并进模型,所以没有需要单独加载的适配器。它为 CloudRaker 的 Paperwork API 的文档解析流水线提供动力。
它适合把页面图片解析成结构化文本、想要一个能自行托管的小模型的开发者和数据团队。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 后台运营 | 数据团队 | 把页面图片变成结构化的 markdown | 一页同时有表格和图表的报告 |
| 文档 AI | 开发者 | 在自己的服务后面自行托管一个小型解析器 | 在现有环境中替换 KDL-Frontier-Parser-nano-v2 |
| 基准测试 | 研究者 | 在 ParseBench 上给文档解析器打分 | 阅读总体、表格和图表的分数 |
需要高亮文字、或在报告类文档之外工作的人可以跳过,因为模型卡说它从不输出高亮,其他领域也没有测试过。
| 用途 | 适合谁 | 得到什么 |
|---|---|---|
| 页面解析 | 开发者 | 从页面图片中读出的文字、表格和图表 |
| 表格提取 | 数据团队 | OTSL 格式的表格输出 |
| 图表提取 | 分析师 | 报告页面中的图表内容 |
你需要先准备:
pip install -U huggingface_hub hf download cloudraker/rakedoc-nano-2
模型卡给出了下面这条命令来提供模型服务。你可以在原来运行 KDL-Frontier-Parser-nano-v2 的地方直接换上它。
vllm serve cloudraker/rakedoc-nano-2 --served-model-name rakedoc-nano-2 \
--max-model-len 8192 --gpu-memory-utilization 0.85 --max-num-seqs 24 \
--trust-remote-code --limit-mm-per-prompt '{"image":1}'用 KDL-Frontier-Parser-nano-v2 使用的阶段提示词,向运行中的服务器发送页面图片。模型每次请求读取一张图片。
| 工具 | 作用 |
|---|---|
| Layout Detection | 找出页面的版面 |
| Text Recognition | 读出文字,包括格式标记 |
| Table Recognition | 读出表格,并以 OTSL 输出作答 |
你用 vLLM 提供模型服务,并用 Table Recognition 提示词发送一张页面图片。返回的是 OTSL 输出的表格。
如果你刚接触,可以把它看作一个会看页面图片、写出其中文字、表格和图表的阅读器。先启动服务,再发送一张清晰的页面。
如果你熟悉这个领域,这个模型对 KDL v2 的两个独立调整版本做权重平均,比例为 0.7 和 0.3。一个针对格式标记,在文字识别上用 GRPO。另一个针对图表,先做短暂的 SFT 热启动,再在图表阶段用 GRPO。模型卡说 ParseBench 只用来在已完成的候选模型之间做选择。
模型卡报告了 ParseBench 上 3 次运行的平均值,并与 KDL-Frontier-Parser-nano-v2 作了比较。
把文档页面图片解析成文字、表格和图表,并保留 markdown 格式。这是 1.2B 参数的模型,图表提取更好,适合构建文档流水线的开发者。
由 cloudraker 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:rakedoc-nano-2 是基于 Qwen2-VL 架构的 1.2B 参数文档解析器。CloudRaker 从 KDL-Frontier-Parser-nano-v2 微调而来,改进了图表提取和文字格式。调整后的权重已经以 bf16 合并进模型,所以没有需要单独加载的适配器。它为 CloudRaker 的 Paperwork API 的文档解析流水线提供动力。
适合谁:它适合把页面图片解析成结构化文本、想要一个能自行托管的小模型的开发者和数据团队。
Title: 谁可能用到它
行业 | 谁在用 | 怎么用 | 例子
后台运营 | 数据团队 | 把页面图片变成结构化的 markdown | 一页同时有表格和图表的报告
文档 AI | 开发者 | 在自己的服务后面自行托管一个小型解析器 | 在现有环境中替换 KDL-Frontier-Parser-nano-v2
基准测试 | 研究者 | 在 ParseBench 上给文档解析器打分 | 阅读总体、表格和图表的分数
需要高亮文字、或在报告类文档之外工作的人可以跳过,因为模型卡说它从不输出高亮,其他领域也没有测试过。
用在哪里:
Title: 它能做的事
用途 | 适合谁 | 得到什么
页面解析 | 开发者 | 从页面图片中读出的文字、表格和图表
表格提取 | 数据团队 | OTSL 格式的表格输出
图表提取 | 分析师 | 报告页面中的图表内容
如何设置:你需要先准备:
pip install -U huggingface_hub
hf download cloudraker/rakedoc-nano-2
模型卡给出了下面这条命令来提供模型服务。你可以在原来运行 KDL-Frontier-Parser-nano-v2 的地方直接换上它。
vllm serve cloudraker/rakedoc-nano-2 --served-model-name rakedoc-nano-2 \
--max-model-len 8192 --gpu-memory-utilization 0.85 --max-num-seqs 24 \
--trust-remote-code --limit-mm-per-prompt '{"image":1}'
如何使用:用 KDL-Frontier-Parser-nano-v2 使用的阶段提示词,向运行中的服务器发送页面图片。模型每次请求读取一张图片。
Title: 阶段提示词
工具 | 作用
Layout Detection | 找出页面的版面
Text Recognition | 读出文字,包括格式标记
Table Recognition | 读出表格,并以 OTSL 输出作答
示例:你用 vLLM 提供模型服务,并用 Table Recognition 提示词发送一张页面图片。返回的是 OTSL 输出的表格。
新手与专家:如果你刚接触,可以把它看作一个会看页面图片、写出其中文字、表格和图表的阅读器。先启动服务,再发送一张清晰的页面。
如果你熟悉这个领域,这个模型对 KDL v2 的两个独立调整版本做权重平均,比例为 0.7 和 0.3。一个针对格式标记,在文字识别上用 GRPO。另一个针对图表,先做短暂的 SFT 热启动,再在图表阶段用 GRPO。模型卡说 ParseBench 只用来在已完成的候选模型之间做选择。
用阶段提示词发送页面图片
模型回答版面、文字或表格
流水线写出 markdown 输出
注意事项:模型卡报告了 ParseBench 上 3 次运行的平均值,并与 KDL-Frontier-Parser-nano-v2 作了比较。
Title: ParseBench 总体分数
rakedoc-nano-2: 80.09 分
使用相同流水线的 KDL v2: 79.74 分
使用自己流水线的 KDL v2: 79.06 分
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download cloudraker/rakedoc-nano-2
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| rakedoc-nano-2 本页 | 543 | 6 | 1.2B | agpl-3.0 | |
| OvisOCR2共有 document-parsing · image-text-to-text · conversational | 28,050 | 504 | 853M | apache-2.0 | |
| Typhoon OCR V2 0.8B共有 document-parsing · image-text-to-text · conversational | 485 | 8 | 853M | apache-2.0 | |
| MiniCPM-OCR 1.0共有 document-parsing · image-text-to-text · conversational | 128,483 | 457 | 1.3B | apache-2.0 | |
| OvisOCR3共有 document-parsing · image-text-to-text · transformers | 203,064 | 121 | 853M | apache-2.0 | |
| Xiaomi-OCR-0共有 document-parsing · image-text-to-text · transformers | 29,537 | 319 | 873M | apache-2.0 |
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
alpindale · 工具包
用一个只有约 984 个权重的小型神经网络,为 C 源代码的每个字符打上语法高亮标签,通过一个小小的 C 程序运行。适合对手工设计的网络好奇的开发者和研究者。
prithivMLmods · 工具包
在浏览器或你自己的电脑上,用一个 Gradio 应用试用 FLUX.2 Klein 图像模型的一组 LoRA。适合制作或测试 AI 图片的人。
Sokheng · 工具包
这个模型从文档、收据和路牌照片里读取高棉语和英语文字,用一个检测器找文本行,再用识别器读每一行。适合需要在 Python 里做高棉语 OCR 的开发者。