Xiaomi-OCR-0-GGUF

Xiaomi-OCR-0-GGUF

提供 Xiaomi-OCR-0 的 GGUF 文件，这是一个用来读取文档和图片文字的 0.8B 紧凑视觉语言模型，大小从约 466 MB 到 1.52 GB。适合配合 llama.cpp 做本地 OCR。

由 prithivMLmods 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库放的是 Xiaomi-OCR-0 的 GGUF 文件，这是一个专为 OCR 和文档解析打造的小型视觉语言模型。它约有 0.8B 参数，基于 Qwen3.5-0.8B-Base。

模型卡称它用约 1.7 亿条以 OCR 为主的样本训练。文件有多种量化大小，另有一个投影文件，让模型能读图片。

适合谁：它适合想在自己电脑上把扫描件、截图和文档变成文字的人，模型小到普通硬件也能跑。

行业 | 谁在用 | 怎么用 | 例子
办公 | 行政人员 | 从扫描页里提取文字 | 读一份扫描的表格
软件 | 开发者 | 给应用加上本地 OCR | 把截图解析成文字
金融 | 后台团队 | 读取打印的收据和对账单 | 抓取收据上的行
研究 | 文档 AI 工程师 | 测试紧凑的 OCR 模型 | 对比不同量化大小

如果你需要带托管 API 的 OCR 服务，或者要支持多种语言，可以跳过它，因为模型卡只列出英语。

用在哪里：这些文件在 Windows、macOS 或 Linux 上兼容 llama.cpp 的工具里运行，模型卡点名 llama.cpp 是做量化用的引擎。

• llama.cpp 以及基于它的工具
• 小型笔记本，因为文件小至约 466 MB
• 图片加文字提示词作为输入

用途 | 谁 | 得到什么
文档解析 | 开发者 | 从页面图片里读出的文字
截图读取 | 普通用户 | 从屏幕截图里取出的文字
大小测试 | 工程师 | 各量化文件之间的对比

如何设置：你需要带 pip 的 Python 来下载文件，还需要能加载 GGUF 文件的工具。选一个量化文件，并加上投影文件，模型才能读图片。

• 带 pip 的 Python
• llama.cpp 或类似工具
• 这里任何一个文件都不到 2 GB 的磁盘空间

1. 安装 Hugging Face hub 包。
2. 下载仓库，或只下载量化文件和投影文件。
3. 在 GGUF 工具里连同投影文件一起加载量化文件。

pip install -U huggingface_hub
hf download prithivMLmods/Xiaomi-OCR-0-GGUF

如何使用：在工具里加载量化文件和投影文件，给它一张文档图片和一句简短指令，再读它返回的文字。模型卡没有给出运行命令，所以请按你所用工具的说明来做。

文件 | 大小 | 何时选用
BF16 | 1.52 GB | 你想要完整权重和最好的质量
Q6_K | 630 MB | 你想要接近完整的质量
Q5_K_M | 578 MB | 你想要高质量
Q4_K_M | 529 MB | 多数场景下的均衡默认选择
Q4_K_S | 505 MB | 你想再多省一点空间
Q3_K_L | 491 MB | 内存低，质量低一些也行
Q3_K_M | 466 MB | 最小的文件，质量较低
mmproj-bf16 | 207 MB | 你需要图像投影

示例：你连同投影文件一起加载 Q4_K_M 文件，给它一张打印页的照片，请它写出文字。它会把页面上的文字作为纯文本回复。

新手与专家：如果你是新手，先用 Q4_K_M 文件、一张清晰的页面照片和一句让它读出文字的简短请求。

如果你懂这个领域，原模型把名为 Q-Mask 的文本锚定方法，与额外的预训练和跨多个任务的强化学习结合起来。量化再用一点精度换来更小的文件。

选一个量化文件
连同投影文件一起加载
给它一张页面图片
读取提取出的文字

注意事项：较小的量化会损失一些精度，所以请在你自己的文档上试几个。模型在本地运行，所以要确认私密页面只留在你自己的机器上。

• License: apache-2.0
• Cost to run: 未提及费用
• Data it reaches: 你下载的文件，以及你给它的图片
• Not for: 英语以外的语言，因为模型卡只列出英语

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：752M
• Weights: about 376 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：44,340
• 点赞：19
• 许可证：apache-2.0
• 语言：en
• 基于：xiaomi-research/Xiaomi-OCR-0
• 标签：transformers, gguf, llama-cpp, document-parsing, document-understanding, visual-question-answering, key-information-extraction, vision-language-model, multimodal, xiaomi, seerray, image-text-to-text

链接

• 模型：https://huggingface.co/prithivMLmods/Xiaomi-OCR-0-GGUF
• 文件：https://huggingface.co/prithivMLmods/Xiaomi-OCR-0-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download prithivMLmods/Xiaomi-OCR-0-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。