DeepSeek-V4.1-Flash-NVFP4

DeepSeek-V4.1-Flash-NVFP4

读取文本和图像并输出文本，是 NVIDIA 制作的 DeepSeek-V4.1-Flash 的 NVFP4 精简版本。适合在 NVIDIA Blackwell GPU 上部署智能体、聊天机器人和检索系统的开发者。

由 nvidia 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 NVIDIA 对 DeepSeek-V4.1-Flash 做的量化版本。原模型是多模态的混合专家语言模型，输入文本和图像，输出文本。NVIDIA 用 Model Optimizer 完成量化。上下文最长可达一百万个 token。

适合谁：想直接部署现成量化模型、不想自己做量化的开发者。

Industry | Who uses it | How they use it | Example
软件 | AI 工程师 | 把模型部署在智能体系统后面 | 运行一个能读截图和文字的智能体
客服 | 聊天机器人开发者 | 把它用作聊天机器人里的模型 | 回答关于一张粘贴图片的问题
搜索 | 检索系统开发者 | 用它基于检索到的文档写答案 | 在一次提示里根据长文档作答

没有 Blackwell GPU 和大量磁盘空间的小团队可以跳过它。

用在哪里：

• 配有 NVIDIA Blackwell GPU 的 Linux 机器
• vLLM，但必须是能加载 MXFP4 Engram 表的版本
• SGLang，但只支持文件的上一个修订版

Use case | Who | What they get back
智能体系统 | 开发者 | 一个读取文本和图像并输出文本的模型
聊天机器人 | 开发者 | 来自大模型的量化精简版回复
检索系统 | 开发者 | 基于长上下文写出的答案

如何设置：

• 带 pip 的 Python，用来获取文件
• 配有 NVIDIA Blackwell 硬件的 Linux 机器
• 约 763 GB 的权重磁盘空间
• 支持 MXFP4 Engram 表的 vLLM 版本，或者文件的上一个修订版

1. 安装 Hugging Face hub 工具。
2. 下载模型文件。
3. 用受支持的 vLLM 版本来运行，如果你的版本无法加载当前修订版，就固定到上一个修订版。

pip install -U huggingface_hub
hf download nvidia/DeepSeek-V4.1-Flash-NVFP4

要固定到上一个修订版，模型卡给出了这个参数。

--revision 3431dde3247c13b5957f682b1e3c6fcae2566079

如何使用：模型运行起来后，你给它发送文本，或者文本加图片，再读取返回的文本。模型卡没有列出启动命令，所以加载时请按运行环境自己的说明操作。

示例：你发一张图表截图，问它显示了什么趋势。模型会把图像和问题一起读取，然后写出文字回答。这只是对模型卡所列输入输出类型的示意，并不是实际测试的结果。

新手与专家：如果你是新手，要知道这是一个体量巨大的模型。下载需要几百 GB，而且模型卡只提到 Linux 上的 Blackwell GPU。第一步可以先读 DeepSeek 为原模型写的模型卡。

如果你是专家，模型卡给出的主干有 552B 参数。模型读取提示词时激活 8B，写出内容时激活 16B，另外还有 196B 的 Engram 记忆。权重以 NVFP4 存储，Engram 查找表自十月更新起用 MXFP4 存储。

DeepSeek-V4.1-Flash 是基础模型
Model Optimizer 把它量化为 NVFP4
你从 Hugging Face 下载文件
vLLM 在 Blackwell GPU 上运行它

注意事项：NVIDIA 没有开发原始模型。模型卡说它是按第三方的要求做的，NVIDIA 只做了量化。它还说，基于它搭建的系统需要用你自己的数据额外测试。

• License: MIT，与 Hugging Face 记录一致。
• Cost to run: 没有提到 API 密钥或账号。你需要 Blackwell 硬件和约 763 GB 的权重空间。
• Data it reaches: 下载会访问 Hugging Face。模型卡没有说明模型会访问文件、网络或账号。
• Not for: 标准的 vLLM 镜像无法加载当前修订版，SGLang 也没有用 MXFP4 表验证过。

Hugging Face 上的数据（2026年11月13日）

• 任务：image text to text
• 框架：Model Optimizer
• 参数量：763B
• Weights: about 763 GB in U8
• Formats: Safetensors
• 最近 30 天下载：33,272
• 点赞：128
• 许可证：mit
• 基于：deepseek-ai/DeepSeek-V4.1-Flash
• Quantized versions: 1
• 标签：safetensors, deepseek_v41, nvidia, modelopt, deepseekv4, quantized, fp4, image-text-to-text, 8-bit, fp8

链接

• 模型：https://huggingface.co/nvidia/DeepSeek-V4.1-Flash-NVFP4
• 文件：https://huggingface.co/nvidia/DeepSeek-V4.1-Flash-NVFP4/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download nvidia/DeepSeek-V4.1-Flash-NVFP4

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。