Granite-Docling-258M

Granite-Docling-258M

把文档页面图像转换成结构化文本，支持公式、版面和关于页面元素的提问，是 IBM Research 的 258M 模型。适合用 Docling 构建文档转换的人。

由 ibm-granite 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Granite Docling 是 IBM Research 的小型多模态模型，把文档页面图像转换成结构化文本。它有 258M 参数，可以接入 Docling 的文档流水线。它的视觉部分是 siglip2-base-patch16-512，语言部分是一个 165M 的 Granite 模型。

适合谁：它适合需要把扫描或电子文档转成 Markdown 和 HTML 等格式的开发者。也适合已经在用 Docling、想要一个能直接接入的模型的团队。

Title: 谁在用
Industry | Who uses it | How they use it | Example
软件 | 文档流水线开发者 | 把页面转成 Markdown 或 HTML | 处理一个报告文件夹的转换器
研究 | 数据团队 | 把带公式的论文转成干净的文本 | 公式完整保留的数学密集页面
后台 | 运营团队 | 从文档图像里读取页面结构 | 检查一个页面包含哪些元素

如果你只处理纯文本文件，可以跳过它。它面向页面图像和文档。

用在哪里：

• Docling 库，这是最简单的方式，会自己下载模型
• 纯 transformers、vllm、onnx 或 mlx-vlm，模型卡列出的直接推理方式
• 装有 Python 的 Windows、macOS 或 Linux
• 使用 Apple MPS 加速器的 Mac，通过 Docling 的一个选项

Title: 它能做的事
Use case | Who | What they get back
页面转换 | 开发者 | Markdown 或 HTML 格式的页面
公式识别 | 研究者 | 检测和格式化更准确的公式
区域推理 | 流水线开发者 | 针对页面中选定区域的输出
元素提问 | 分析人员 | 关于有哪些元素以及顺序的回答

如何设置：

• Windows、macOS 或 Linux 上的 Python
• 最简单的方式是通过 pip 安装的 Docling 库
• 直接使用纯 transformers 需要下面三个前置包
• BF16 权重约 515 MB 的空间

1. 安装 Hugging Face Hub 工具并下载模型文件。
2. 或者用 pip 安装 Docling，它会替你获取模型。
3. 直接使用时，安装模型卡列出的三个包。

pip install -U huggingface_hub
hf download ibm-granite/granite-docling-258M

pip install torch
pip install docling_core
pip install transformers

如何使用：
用 Docling 时，运行它的命令行工具，选择 vlm 流水线和 granite_docling 模型。你可以输出 HTML、Markdown 或分页 HTML，也可以要求加上版面叠加层。模型卡的示例用到了网址，所以这里省略。

Title: 模型卡里的 Docling 选项
Tool | What it does
--to | 选择输出格式，比如 html 或 md
--pipeline vlm | 使用视觉语言流水线
--vlm-model granite_docling | 选择这个模型
--show-layout | 在分页输出上画出版面

hf download ibm-granite/granite-docling-258M

示例：
你用 granite_docling 模型让 Docling 处理一篇研究论文。它读取每一页的图像，写出 Markdown 和一个 HTML 版本，需要时还会显示版面。模型卡用一张图展示了在一篇论文上的效果。

新手与专家：
如果你是新手，这是一个小型 AI，能读文档页面的照片或扫描件，并把它写成干净的文本。第一件小事是对一份简短的文档运行 Docling 命令。

如果你懂这个领域，它基于 Idefics3 的设计，把视觉编码器换成 siglip2-base-patch16-512，语言模型换成 Granite 165M。它让公式更准确，也更不容易陷入无休止的输出循环。代价在语言范围：对日语、阿拉伯语和中文的支持是实验性的。

把页面图像或文档交给 Docling
Granite Docling 模型读取每一页
输出转换成 Markdown 或 HTML
对照页面检查结果

注意事项：

Title: 权重大小，单位 MB
BF16: 515 MB
4-bit (estimate): 129 MB

• 语言：主要语言是英语，日语、阿拉伯语和中文处于实验状态。
• 模式：它可以一次读整页，也可以读由边界框指定的区域。
• 发布：IBM Research 在 2025 年 9 月发布了它。
• 衍生版本：其他人已发布 16 个量化版本和 16 个微调版本。
• 演示：模型卡链接了 Hugging Face Spaces 上的托管演示。
• License：apache-2.0。
• Cost to run：没有提到 API 密钥、账号或付费服务，而且模型小，普通硬件就够用。
• Data it reaches：它读取你给它的文档，你从 Hugging Face 下载文件。
• Not for：需要模型卡所列语言之外的页面。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：258M
• Weights: about 515 MB in BF16; about 129 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：245,919
• 点赞：1,295
• 许可证：apache-2.0
• 语言：en
• Quantized versions: 16
• Fine-tunes: 16
• 标签：transformers, safetensors, idefics3, image-text-to-text, text-generation, documents, code, formula, chart, layout, table, document-parse

链接

• 模型：https://huggingface.co/ibm-granite/granite-docling-258M
• 文件：https://huggingface.co/ibm-granite/granite-docling-258M/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download ibm-granite/granite-docling-258M

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。