DeepSeek-R1-GGUF
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
在基于 Docker 的文档工作台里,用 Xiaomi-OCR-0 模型解析图片和 PDF,提取字段,并回答关于文档的问题,需要 GPU。
Xiaomi OCR 0 Demo 是一款工具包,属于效率类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download loongwayX/Xiaomi-OCR-0-demo --repo-type space --local-dir Xiaomi-OCR-0-demo cd Xiaomi-OCR-0-demo
Xiaomi OCR 0 Demo 是一个文档工作台,能解析图片和 PDF,提取关键信息,并回答关于文档的问题。它用 vLLM 在 Space 的 GPU 上运行 Xiaomi-OCR-0 模型,旁边有两个独立的 PP-DocLayoutV3 版面工作进程。它从 Docker 镜像运行,使用 7860 端口。
处理扫描件或拍照文档,想从中得到文字、字段和答案的人,以及研究文档 AI 技术栈的工程师。
| 行业 | 谁在用 | 怎么用 | 例子 |
|---|---|---|---|
| 金融 | 后台团队 | 从发票和表单里取出字段 | 上传一个 PDF,读提取出的字段 |
| 法律 | 律师助理 | 读扫描页的文字 | 解析一页扫描的合同 |
| 运营 | 档案团队 | 把纸质材料变成可搜索的文字 | 处理一张页面照片 |
| 软件 | 工程师 | 研究 vLLM 加版面工作进程的配置 | 阅读 layout_server.py 和 start.py |
文档属于机密的人应该跳过托管的 Space,因为上传的内容会按下面所述被归档和转发。
| 用例 | 谁用 | 得到什么 |
|---|---|---|
| 解析图片或 PDF | 文档团队 | 页面解析后的内容 |
| 提取关键信息 | 金融和运营 | 从文档里取出的字段 |
| 就文档提问 | 任何人 | 视觉问答给出的答案 |
pip install -U huggingface_hub hf download loongwayX/Xiaomi-OCR-0-demo --repo-type space --local-dir Xiaomi-OCR-0-demo cd Xiaomi-OCR-0-demo docker build -t xiaomi-ocr-0-demo . docker run -it -p 7860:7860 xiaomi-ocr-0-demo
在线使用时,访问 Hugging Face 上的这个 Space,把图片或 PDF 添加到工作台。使用本地容器时,等模型和两个版面工作进程都报告就绪之后,在浏览器里打开 7860 端口。
| 变量 | 默认值 |
|---|---|
| XIAOMI_OCR_MODEL | SeerRay-Lab/Xiaomi-OCR-0 |
| MAX_MODEL_LEN | 16384 |
| MAX_NUM_SEQS | 4 |
| GPU_MEMORY_UTILIZATION | 0.65 |
| REGION_CONCURRENCY | 4 |
| LAYOUT_CPU_THREADS | 每个版面工作进程 2 |
你把一个 PDF 添加到工作台,请它给出关键字段。应用用版面工作进程解析页面,用模型读取它们,并返回提取出的信息。
如果你刚接触,先用一张印刷页面的图片,要求做一次简单解析。清晰、摆正的页面最容易得到第一个结果。
如果你熟悉这个领域,这套技术栈运行 vLLM 0.19.1、CUDA 12 的 PyTorch 2.10 和 Transformers 5.8.1,而 PaddlePaddle GPU 3.3.1 和 PaddleX 3.7.2 在一个单独的环境里。两个版面工作进程和 vLLM 共用 GPU 0,空闲时接收请求。它以 BF16 精度启动,上下文约一万六千个词元,一次四个序列,以及四个区域工作进程。
在基于 Docker 的文档工作台里,用 Xiaomi-OCR-0 模型解析图片和 PDF,提取字段,并回答关于文档的问题,需要 GPU。
由 loongwayX 在 Hugging Face 上制作。这些说明是 Mindket 根据它的 Space 页面和 README 写的,应用自己的文件和许可证在 Hugging Face 上。
它是什么:Xiaomi OCR 0 Demo 是一个文档工作台,能解析图片和 PDF,提取关键信息,并回答关于文档的问题。它用 vLLM 在 Space 的 GPU 上运行 Xiaomi-OCR-0 模型,旁边有两个独立的 PP-DocLayoutV3 版面工作进程。它从 Docker 镜像运行,使用 7860 端口。
适合谁:处理扫描件或拍照文档,想从中得到文字、字段和答案的人,以及研究文档 AI 技术栈的工程师。
行业 | 谁在用 | 怎么用 | 例子
金融 | 后台团队 | 从发票和表单里取出字段 | 上传一个 PDF,读提取出的字段
法律 | 律师助理 | 读扫描页的文字 | 解析一页扫描的合同
运营 | 档案团队 | 把纸质材料变成可搜索的文字 | 处理一张页面照片
软件 | 工程师 | 研究 vLLM 加版面工作进程的配置 | 阅读 layout_server.py 和 start.py
文档属于机密的人应该跳过托管的 Space,因为上传的内容会按下面所述被归档和转发。
用在哪里:
用例 | 谁用 | 得到什么
解析图片或 PDF | 文档团队 | 页面解析后的内容
提取关键信息 | 金融和运营 | 从文档里取出的字段
就文档提问 | 任何人 | 视觉问答给出的答案
如何设置:
pip install -U huggingface_hub
hf download loongwayX/Xiaomi-OCR-0-demo --repo-type space --local-dir Xiaomi-OCR-0-demo
cd Xiaomi-OCR-0-demo
docker build -t xiaomi-ocr-0-demo .
docker run -it -p 7860:7860 xiaomi-ocr-0-demo
如何使用:在线使用时,访问 Hugging Face 上的这个 Space,把图片或 PDF 添加到工作台。使用本地容器时,等模型和两个版面工作进程都报告就绪之后,在浏览器里打开 7860 端口。
变量 | 默认值
XIAOMI_OCR_MODEL | SeerRay-Lab/Xiaomi-OCR-0
MAX_MODEL_LEN | 16384
MAX_NUM_SEQS | 4
GPU_MEMORY_UTILIZATION | 0.65
REGION_CONCURRENCY | 4
LAYOUT_CPU_THREADS | 每个版面工作进程 2
示例:你把一个 PDF 添加到工作台,请它给出关键字段。应用用版面工作进程解析页面,用模型读取它们,并返回提取出的信息。
新手与专家:如果你刚接触,先用一张印刷页面的图片,要求做一次简单解析。清晰、摆正的页面最容易得到第一个结果。
如果你熟悉这个领域,这套技术栈运行 vLLM 0.19.1、CUDA 12 的 PyTorch 2.10 和 Transformers 5.8.1,而 PaddlePaddle GPU 3.3.1 和 PaddleX 3.7.2 在一个单独的环境里。两个版面工作进程和 vLLM 共用 GPU 0,空闲时接收请求。它以 BF16 精度启动,上下文约一万六千个词元,一次四个序列,以及四个区域工作进程。
你添加图片或 PDF
版面工作进程找出区域
Xiaomi-OCR-0 通过 vLLM 读取它们
你得到文字、字段或答案
注意事项:
在浏览器里打开这个 Space,或在它的页面上把它复制到你自己的 Hugging Face 账号。这个工具包里没有会自己运行的东西。
README.md 5 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face Space。
| 产品 | 点赞 | 构建方式 | 许可证 | 最近更新 |
|---|---|---|---|---|
| Xiaomi OCR 0 Demo 本页 | 18 | docker | apache-2.0 | |
| AI Jukebox共有 docker | 426 | docker | mit | |
| AUDIO共有 docker | 25 | docker | apache-2.0 | |
| Swap Face Model共有 docker | 21 | docker | mit | |
| Image To Relief共有 docker | 3 | docker | mit | |
| Hermes Agent共有 docker | 3 | docker | mit |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
unsloth · 工具包
671B 参数 DeepSeek-R1 推理模型的 GGUF 版本,带 1.58-bit 和 2-bit 动态量化,可在内存足够的本机上用 llama.cpp 运行。
prithivMLmods · 工具包
提供 Axion-1.0-35B 的 GGUF 文件,这是一个有约 30 亿激活参数的 35B 混合专家模型,面向科学推理、信息查找和工具使用。适合配合 llama.cpp 在本地使用。
Phips · 工具包
用一个超分辨率网络放大低分辨率图像,可以在一块消费级 GPU 上训练,并导出为 ONNX。适合训练或运行图像放大模型的人。
ACE-Step · 工具包
用 4B 扩散解码器根据文字生成音乐,50 步并带引导控制,音频质量高于基础版。适合拥有 12 GB 或更多显存 GPU 的创作者。
op7418 · 技能
能生成单文件 HTML 幻灯片、幻灯片配图和多平台封面的技能,有两套视觉风格,还带演讲者模式用于排练。适合使用 Claude Code 或 Codex 的演讲者。
zarazhangrui · 技能
从零开始或从 PowerPoint 文件生成 HTML 演示文稿,并展示几种视觉风格预览供你挑选,适合不懂 CSS 和 JavaScript、又想做网页幻灯片的人。