DeepSeek-V3.2

DeepSeek-V3.2

DeepSeek 的 685B 开源推理模型，用稀疏注意力处理长上下文，聊天模板让它能一边思考一边调用工具。适合运行大模型和构建智能体的团队。

由 deepseek-ai 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：DeepSeek-V3.2 是 DeepSeek 的 685B 文本模型，基于 DeepSeek-V3.2-Exp-Base。它想把效率和强大的推理与智能体能力结合起来。制作者点出三项改变：用于长上下文的稀疏注意力方法 DSA、规模更大的强化学习阶段，以及一个为工具使用合成训练任务的大型流水线。模型卡还描述了一个更高算力的版本 DeepSeek-V3.2-Speciale。

适合谁：如果你是托管超大开源模型的机器学习团队，或者是构建必须边推理边调用工具的智能体的开发者，它很适合你。

Industry | Who uses it | How they use it | Example
软件开发 | 智能体构建者 | 构建一边推理一边调用工具的助手 | 新的聊天模板加入了带工具的思考
研究 | 核查模型说法的团队 | 审阅制作者发布的比赛提交内容 | 模型卡附有 IOI、ICPC World Finals、IMO 和 CMO 的文件供核查
平台工程 | 托管开源模型的团队 | 用高效的注意力方法部署大模型 | DSA 的设计目标是降低长输入的算力

如果你没有多 GPU 服务器，可以跳过它，因为权重约有 685 GB。

用在哪里：

• Hugging Face Transformers，模型卡标注的库
• Windows、macOS 或 Linux，用 Python 下载文件并运行编码脚本
• 放得下权重的多 GPU 服务器
• 发送 OpenAI 风格消息的智能体代码，编码脚本会为模型转换这些消息

Use case | Who | What they get back
使用工具的智能体 | 开发者 | 一个能在工具调用之间进行推理的模型
长上下文工作 | 平台团队 | 按制作者的说法，稀疏注意力带来更低的算力
竞赛类题目 | 研究者 | 放在文件夹里、他人可以核实的提交内容

如何设置：你需要 Python、很大的存储空间，以及支持这个模型的运行时。

• 装有 Hugging Face 工具的 Python
• F8_E4M3 权重约 685 GB，4-bit 约 343 GB，这是估算值
• 支持这个模型的运行时，因为这里看到的模型卡部分没有给出服务命令
• 仓库里的 encoding 文件夹，用于聊天模板

1. 用 Python 安装 Hugging Face 工具。
2. 用下面的第二条命令下载仓库文件。
3. 阅读 encoding 文件夹，看消息是如何变成模型输入的。
4. 在支持它的运行时里加载权重。

pip install -U huggingface_hub
hf download deepseek-ai/DeepSeek-V3.2

如何使用：聊天模板和早期版本相比有变化。它有新的工具调用格式，以及带工具的思考功能。仓库里有一个 encoding 文件夹，里面有 Python 脚本和测试用例。它们展示了如何把 OpenAI 风格的消息变成模型输入，以及如何解析模型的文本输出。模型卡的示例在导入行之后被截断了：

import transformers
# encoding/encoding_dsv32.py
from encoding_dsv32 import encode_messages, parse_message_from_completion_text

Tool | What it does
encode_messages | 把 OpenAI 风格的消息变成给模型的输入字符串
parse_message_from_completion_text | 把模型的文本输出读回成一条消息
encoding folder | 存放模板的 Python 脚本和测试用例
olympiad_cases folder | 存放为核查而发布的比赛提交内容

示例：你构建一个用搜索工具回答问题的智能体。你用模板对聊天记录编码，这样模型就能思考、调用工具、再思考。然后你把它的回复解析回一条消息。

新手与专家：把它想成一个超大的推理引擎，经过训练后会把使用工具当作思考的一部分。第一个小尝试是读一读编码脚本，看一条消息如何变成模型输入。

稀疏注意力让每个词元只看上下文中被选中的一部分，从而降低长输入的算力。制作者说这样在降低成本的同时保持了质量。它还说高算力版本在推理上超过 GPT-5，并与 Gemini-3.0-Pro 相当。这些是制作者的说法，而图表是在这里看不到的图片。

用 OpenAI 风格写消息
用模型卡的脚本编码
模型思考，并可能调用工具
用模型卡的解析器解析回复
把工具结果送回去并继续

注意事项：模型卡的记录里，权重有两种大小。

Title: 权重大小
Format | Size
F8_E4M3 | 约 685 GB
4-bit，估算 | 约 343 GB

• Gold medal claim: 模型卡报告高算力版本在 IMO 和 IOI 上取得金牌水平的成绩
• Verification: 发布的比赛提交内容供社区核查
• Other versions: 其他人已经发布了 21 个量化版本和 36 个微调版本
• License: MIT
• Cost to run: 没有提到，但需要多 GPU 服务器
• Data it reaches: 你下载的文件和你在自己服务器上运行的提示词
• Not for: 小型机器，或者在没有自己测试的情况下把它的基准说法当作已核实的结果

Hugging Face 上的数据（2026年11月13日）

• 任务：text generation
• 框架：transformers
• 参数量：685B
• Weights: about 685 GB in F8_E4M3; about 343 GB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：8,260,197
• 点赞：1,597
• 许可证：mit
• 基于：deepseek-ai/DeepSeek-V3.2-Exp-Base
• Quantized versions: 21
• Fine-tunes: 36
• 标签：transformers, safetensors, deepseek_v32, text-generation, fp8

链接

• 模型：https://huggingface.co/deepseek-ai/DeepSeek-V3.2
• 文件：https://huggingface.co/deepseek-ai/DeepSeek-V3.2/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download deepseek-ai/DeepSeek-V3.2

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。