MiniCPM-V-4.7-1B-gguf

MiniCPM-V-4.7-1B-gguf

通过 llama.cpp 运行 1B 视觉语言模型，回答关于图片的文字提示词。提供多种量化大小的 GGUF 文件，适合想要小型本地模型的开发者和爱好者。

由 openbmb 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这个仓库收录了 MiniCPM-V 4.7 1B 的 GGUF 量化文件。它是一个约 1B 参数的视觉语言模型，通过 llama.cpp 回答关于图片的文字提示词。记录估算 4-bit 下约 503 MB。未量化的权重和更完整的模型卡，在 openbmb 发布的原始 MiniCPM-V-4.7-1B 模型那里。

适合谁：它适合想在笔记本、手机或其他资源有限的设备上运行小型图像理解模型的开发者和爱好者。

Industry | Who uses it | How they use it | Example
移动应用 | 应用开发者 | 把图片提问功能做进 iOS、Android 或 HarmonyOS 应用 | 描述用户刚拍的一张照片
本地 AI | 爱好者 | 通过 Llama 应用在笔记本上聊图片 | 问截图里有什么
边缘硬件 | 嵌入式工程师 | 在模型卡点名的芯片上运行小模型 | 在内存有限的设备上测试图片说明

需要原始 BF16 权重的人，应该改用原始仓库。

用在哪里：你可以在桌面应用、终端或设备上运行它。

• macOS 和 Windows 上的 Llama 桌面应用，由 llama.cpp 开发者和 Hugging Face 共同推出
• 终端，用 llama cli 聊天，用 llama serve 开启本地网页和 API
• iOS、Android 和 HarmonyOS，模型卡称 MiniCPM-V 4.7 支持它们
• Rockchip、Houmo、Intel、AMD 和 Arm 的芯片，模型卡称有首日支持

Use case | Who | What they get back
描述图片 | 有笔记本的任何人 | 对你传入图片的文字描述
本地图像 API | 开发者 | 从自己机器提供的 OpenAI 兼容接口
设备端视觉 | 移动和边缘团队 | 一个能放进有限硬件的小模型

如何设置：一键方式只需要 Llama 应用。终端方式需要安装 llama。

• macOS 或 Windows（一键方式），或装有 llama 的终端
• Python，仅在你手动下载文件时需要
• 足够存放所选量化文件的磁盘空间

1. 安装 Llama 应用。macOS 上用下面第一条命令，Windows 上用它的安装程序。
2. 打开模型的 Hugging Face 页面，点 Use this model 按钮，再选 Llama。应用会挑选适合你硬件的版本，下载后启动聊天窗口。
3. 或者跳过应用，使用 How to use it 下面的终端命令。
4. 想手动获取文件，就安装 hub 工具并下载仓库。

brew install --cask llama-app

pip install -U huggingface_hub
hf download openbmb/MiniCPM-V-4.7-1B-gguf

如何使用：在终端里，-hf 参数会替你拉取模型和与之匹配的 mmproj 文件。

llama cli   -hf openbmb/MiniCPM-V-4.7-1B-gguf
llama serve -hf openbmb/MiniCPM-V-4.7-1B-gguf     # WebUI + OpenAI-compatible API on :9931

如果文件已经在你的磁盘上，就用 -m 指向其中一个量化文件，再加上通用的 mmproj 文件。第二条命令开启思考，并用 -n 要求更多词元。

# default (thinking disabled, no flag needed)

# thinking enabled
llama cli -m thinking/MiniCPM-V-4_7-1B-Q4_K_M-thinking.gguf --mmproj mmproj-model-f16.gguf \
          --image img.jpg -p "Describe." -n 1024

先在 它的密钥设置 里填上你自己的值。

文件有两套。它们只在内置的聊天模板上不同，权重完全相同。每套的量化类型从 F16 一直到 IQ3。

文件集 | 思考 | 何时选它
仓库根目录 | 关闭，且无法打开 | 推荐的默认选择，因为该模型没有为推理训练
thinking 文件夹 | 默认开启 | 你想阅读推理步骤，并且能接受更多词元

Tool | What it does
llama cli | 在终端聊天里运行模型，如果你传入图片也能一起处理
llama serve | 启动网页和端口 9931 上兼容 OpenAI 的 API
llama-mtmd-cli 和 llama-server | 为开发保留的较早入口
Llama 应用 | 一键桌面应用，会下载合适的版本

示例：你用 Q4_K_M 文件、mmproj 文件、一张名为 img.jpg 的图片和提示词 "Describe." 运行 llama cli。模型会打印这张图片的简短描述。用 thinking 文件时，它还会在答案之前打印一段推理过程。

新手与专家：如果你是新手，就安装 Llama 应用，并从它的 Hugging Face 页面选择这个模型。这会打开一个聊天窗口，你可以放入图片并提问。

如果你熟悉这个领域，模型卡称模型在视觉编码器内部尽早压缩视觉词元，沿用了 LLaVA-UHD v4 的一项技术，并支持 4x 和 16x 混合词元压缩，让你在视觉细节和成本之间权衡。模型卡还称它在总分和效率上胜过 Qwen3.5 0.8B，但这个页面没有给出数字。运行环境会自己把 enable_thinking 加进模板。因此 --reasoning off 参数对根目录那套文件不起作用，对 thinking 那套文件则会隐藏推理过程。

你传入一张图片和一个提示词
mmproj 文件对图片编码
1B 语言模型读取两者
它打印答案，或先打印推理过程

注意事项：两套文件共用 mmproj 文件，因为它们不带聊天模板。思考会成倍增加词元数，所以在 thinking 文件上要调高 -n。

• License: Apache-2.0
• Cost to run: 没有提到
• Data it reaches: -hf 参数会从 Hugging Face 拉取模型和 mmproj。llama serve 会在你自己机器的 9931 端口开启网页和 API。
• Not for: 在根目录文件上做推理任务，那里思考是关闭的，且无法打开

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：llama.cpp
• 参数量：1B
• Weights: about 503 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：168,636
• 点赞：114
• 许可证：apache-2.0
• 基于：openbmb/MiniCPM-V-4.7-1B
• Fine-tunes: 1
• 标签：llama.cpp, gguf, quantized, imatrix, dspark, speculative-decoding, minicpm-v, multimodal, lightweight, image-text-to-text, conversational

链接

• 模型：https://huggingface.co/openbmb/MiniCPM-V-4.7-1B-gguf
• 文件：https://huggingface.co/openbmb/MiniCPM-V-4.7-1B-gguf/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download openbmb/MiniCPM-V-4.7-1B-gguf

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。