MiniCPM-V 4.6

MiniCPM-V 4.6

能读懂单张图片、多张图片和视频并用文字回答，参数量 1.3B，适合在手机和其他边缘设备上运行。适合想要小型视觉语言模型的开发者。

由 openbmb 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：MiniCPM-V 4.6 是 openbmb 推出的小型视觉语言模型，参数量 1.3B。你给它图片或视频再提一个问题，它用文字回答。它内部把 SigLIP2-400M 视觉编码器和 Qwen3.5-0.8B 语言模型配在一起，目标是在手机和类似设备上运行。

适合谁：它适合想在小模型里获得图片和视频理解能力、并让它跑在手机或消费级 GPU 上的开发者和研究者。

Industry | Who uses it | How they use it | Example
移动应用 | 构建端侧 AI 功能的开发者 | 用开源的适配代码把它部署到 iOS、Android 或 HarmonyOS | 应用团队加入一个在手机上运行的读图功能
AI 研究 | 测试小型视觉语言模型的研究者 | 把它的基准测试得分与其他小模型对比 | 研究者在 OCRBench 上拿它和 Qwen3.5-0.8B 对比
应用机器学习 | 想为自己领域定制模型的团队 | 在消费级 GPU 上用 SWIFT 或 LLaMA-Factory 微调 | 团队针对自己那类图片做微调

想要不计体积的最大视觉模型的人可以跳过它，因为它的设计目标是保持小而快。

用在哪里：它首先面向手机，文件也可以在电脑上下载。

• iOS、Android 和 HarmonyOS 手机：用模型卡里的适配代码做端侧部署
• Windows、macOS 或 Linux：用 Python 和 Hugging Face 工具下载文件
• vLLM、SGLang、llama.cpp 和 Ollama：这个模型已适配的推理框架
• SWIFT 和 LLaMA-Factory：它支持的微调生态

Use case | Who | What they get back
描述或询问一张图片 | 应用开发者 | 一段关于这张图的文字回答
比较多张图片 | 研究者 | 一段综合了所有图片的文字回答
理解一段视频 | 开发者 | 一段关于视频里发生了什么的文字回答

如何设置：先准备好下面几样东西。

• 用于下载的 Python 和 huggingface_hub 包
• 上面列表中的一个框架，比如 vLLM、llama.cpp 或 Ollama，用来运行模型
• 大约 2.6 GB 磁盘空间存放 BF16 权重，4 位量化约 650 MB，是估算值

1. 安装 Hugging Face hub 包。
2. 下载模型文件。
3. 在模型卡提到的某个框架里加载模型。

pip install -U huggingface_hub
hf download openbmb/MiniCPM-V-4.6

如何使用：你给模型一张图片或一段视频，用大白话问一个问题。模型卡列出了它能配合的框架，并说明有 GGUF、BNB、AWQ 和 GPTQ 格式的量化版本。

Tool | What it does
vLLM 和 SGLang | 模型卡说这个模型已适配的推理框架
llama.cpp 和 Ollama | 用于在本地运行的推理框架，模型卡里也有提到
SWIFT 和 LLaMA-Factory | 用来把它定制到新领域和新任务的微调生态
GGUF、BNB、AWQ、GPTQ | 模型卡提供量化版本的格式

示例：你发一张手写便条的照片，问：“What does the text in this picture say?” 模型用文字回答。模型卡把 OCRBench 列为它达到 Qwen3.5 2B 水平的基准测试之一。

新手与专家：这是一个小型 AI，能看图片或视频，并用文字回复。你的第一小步是用上面的命令下载文件，然后在你熟悉的框架里试一张图片。

视觉部分用的是 SigLIP2-400M，来自 LLaVA-UHD v4 的技术把视觉编码的计算量减少了 50% 以上，token 吞吐量约为 Qwen3.5-0.8B 的 1.5 倍。它支持混合的 4x 和 16x 视觉 token 压缩，让你在准确度和速度之间做取舍。

图片或视频输入
SigLIP2-400M 对所见内容编码
视觉 token 被压缩 4 倍或 16 倍
Qwen3.5-0.8B 模型写出回答

注意事项：

• Hugging Face 的记录列出了其他人制作的 31 个量化版本和 21 个微调版本。
• 基准测试的说法是模型卡自己给出的，模型卡还对比了它与 Qwen3.5-0.8B 的 token 成本和吞吐量。
• 模型卡称，在 Artificial Analysis Intelligence Index 上它超过了更大的 Ministral 3 3B。

Title: Artificial Analysis Intelligence Index 得分
MiniCPM-V 4.6: 13 分
Qwen3.5-0.8B: 10 分
Qwen3.5-0.8B-Thinking: 11 分
Ministral 3 3B: 11 分

• License: Apache 2.0，按 Hugging Face 的记录。
• Cost to run: 权重部分来源未提及费用。模型卡还宣布了一个托管 API 服务，带有公开的免费 API 密钥。
• Data it reaches: 它从 Hugging Face 下载文件，并读取你提供的图片和视频。
• Not for: 模型卡没有提到。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：transformers
• 参数量：1.3B
• Weights: about 2.6 GB in BF16; about 650 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：187,584
• 点赞：1,253
• 许可证：apache-2.0
• Quantized versions: 31
• Fine-tunes: 21
• 标签：transformers, safetensors, minicpmv4_6, image-text-to-text, minicpm-v, multimodal, lightweight, conversational

链接

• 模型：https://huggingface.co/openbmb/MiniCPM-V-4.6
• 文件：https://huggingface.co/openbmb/MiniCPM-V-4.6/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download openbmb/MiniCPM-V-4.6

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。