MiniCPM-OCR 1.0 GGUF

MiniCPM-OCR 1.0 GGUF

把中英文文档（包括 PDF）解析成文本、表格和公式，提供给 llama.cpp 使用的 GGUF 文件。适合在自己机器上运行 MiniCPM-OCR 1.0 的人。

由 openbmb 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：MiniCPM-OCR 1.0 GGUF 收录了可直接用于 llama.cpp 的 MiniCPM-OCR 1.0 文件，后者是 openbmb 推出的 1.3B 文档识别模型。模型把文档转成文本、表格、公式和图表，还能提取关键信息，可处理 PDF 以及中文或英文文档。记录里把 openbmb/MiniCPM-V-4.6 列为它的基础模型。

适合谁：如果你想通过 llama.cpp 在自己电脑上做文档 OCR，并且想在多种文件大小之间选择，它适合你。需要原始权重或基准测试的人，模型卡会指向基础仓库。

Industry | Who uses it | How they use it | Example
办公 | 行政和档案人员 | 把扫描页和 PDF 转成可编辑的文本 | 把一页扫描的合同转成文本
金融 | 分析师和会计 | 从报告里提取表格和公式 | 把财报里的一张表提取成数据
研究 | 学生和研究人员 | 读取论文中的公式和图表 | 把论文中一页公式解析成文本
软件 | 自己部署 OCR 的开发者 | 通过 llama.cpp 运行小型量化识别模型 | 基于其中一个 GGUF 档位搭建的本地服务

如果你想要原始权重或基准测试表，可以跳过它，那些内容在基础仓库里。

用在哪里：

• llama.cpp，在 Windows、macOS 或 Linux 上
• minicpm-ocr Python SDK，负责两阶段文档解析
• 项目为 MiniCPM-OCR 提到的其他自部署方案：vLLM、SGLang 和 Ollama
• 项目的免费在线试用平台和 API，以及可在设备上运行的 iOS 应用

Use case | Who | What they get back
解析文档 | 办公人员 | 页面里的文本、表格和公式
抽取关键信息 | 分析师 | 从文档中提取出的关键内容
离线运行 OCR | 开发者 | 在你自己机器上运行的识别模型

如何设置：

• Python 和 pip，用于下载文件
• llama.cpp，因为这个版本就是为它做的
• 一个 LLM GGUF 文件加上视觉投影文件，因为每个档位都需要投影文件
• 如果使用 SDK 的版面检测阶段，需要 PaddlePaddle 或 PaddleX

1. 安装 Hugging Face hub 包。
2. 把模型文件下载到你的电脑。
3. 选一个 LLM GGUF 档位，并把投影文件和它放在一起。
4. 启动 llama.cpp，把 LLM 文件交给 model，把投影文件交给 mmproj。

pip install -U huggingface_hub
hf download openbmb/MiniCPM-OCR-1.0-gguf

如何使用：两个参数告诉 llama.cpp 该加载哪些文件。模型卡还说，对于代码或 XML 很多的页面，优先选 Q8_0 档位。

Tool | What it does
--model | 接收你所选档位的 LLM GGUF 文件
--mmproj | 接收视觉投影文件，每个档位都需要它
llama.cpp | 运行 GGUF 版本
minicpm-ocr SDK | 把文档拆成区域并逐个读取
PP-DocLayoutV3 | 检测文档区域及其阅读顺序

下面的表说明每个档位的用途。

Tier | What it is for
F16 | 没有量化的参考版本
Q8_0 | 模型卡推荐的平衡之选，在表格和密集文字上几乎与 F16 一样
Q6_K | 中间档位，就体积而言质量不错
Q5_K_M | 更小的档位，仍保持较强的质量
Q4_K_M | 模型卡推荐的最小档位
Q4_0 | 列表中最小的文件

示例：你加载 Q8_0 文件和投影文件，给它一页带表格的扫描报告，让它给出表格内容，它会把表格的文字返回给你。

新手与专家：这是一个读扫描页和 PDF 的模型。第一次尝试时，下载文件，选 Q8_0 档位，用 llama.cpp 连同投影文件一起加载，再给它一页清晰的文档。

投影文件做 4 倍下采样，这个模型没有 16 倍的版本。模型卡说，Q4_K_M 在表格上保持准确，在密集文字上略有损失，在代码很多的文档里可能丢掉闭合标签的斜杠。完整解析使用 SDK 的两阶段流程：先由版面模型找出区域，两个阶段可以在不同环境甚至不同机器上运行。

页面进入 SDK
PP-DocLayoutV3 找出区域和阅读顺序
SDK 裁剪每个区域
GGUF 模型读取每个区域

注意事项：每个档位都需要投影文件，所以在你选的档位之外还要预留它的空间。文件大小，单位 GB：

Title: 文件大小，单位 GB
投影文件，必需: 0.901 GB
F16: 1.516 GB
Q8_0: 0.812 GB
Q6_K: 0.630 GB
Q5_K_M: 0.578 GB
Q4_K_M: 0.529 GB
Q4_0: 0.501 GB

• License: Apache 2.0
• Cost to run: 这些文件没有标明密钥或付费服务，使用指南为主模型提供免费的在线试用平台和 API
• Data it reaches: 从 Hugging Face 下载文件，指南说自部署时数据留在你这一侧
• Not for: 16 倍投影文件（这个模型没有这个版本），也不是原始权重和基准测试，那些在基础仓库里

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：minicpm-ocr
• 参数量：752M
• Weights: about 376 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：58,162
• 点赞：133
• 许可证：apache-2.0
• 语言：en, zh
• 基于：openbmb/MiniCPM-V-4.6
• 标签：minicpm-ocr, gguf, document-parsing, llama.cpp, multimodal, quantized, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/openbmb/MiniCPM-OCR-1.0-gguf
• 文件：https://huggingface.co/openbmb/MiniCPM-OCR-1.0-gguf/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download openbmb/MiniCPM-OCR-1.0-gguf

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。