bert-base-chinese

bert-base-chinese

预测中文文本中被遮住的词，是 Google 针对中文预训练的 BERT base 模型。适合构建中文语言工具或为中文任务微调模型的开发者和研究人员。

由 google-bert 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：bert-base-chinese 是 Google 针对中文预训练的 BERT base 模型。训练时，一些词被随机藏起来，模型学着根据周围的词把它们猜出来。

模型卡把掩码语言建模列为它的直接用途。它建立在 BERT base 模型之上，模型卡在另一页里介绍了那个模型。

适合谁：处理中文文本的开发者、研究人员和学生最适合它。很多人从这个模型出发，为自己的任务做微调。

Industry | Who uses it | How they use it | Example
中文 NLP | 开发者 | 在中文语言模型之上构建 | 预测句子里缺的一个词
研究 | NLP 研究人员 | 把它当作微调的起点 | 为一个中文任务训练一个版本
教育 | 学生 | 学习掩码语言模型的工作方式 | 加载模型并试几个句子

如果你只处理其他语言，可以跳过它，因为它是针对中文预训练的。

用在哪里：你在自己的电脑上用 Python 和 transformers 库运行它。

• 装有 Python 的 Windows、macOS 或 Linux
• 使用 transformers 库的 Python 脚本
• 从中文 BERT 出发的微调项目

Use case | Who | What they get back
预测被遮住的词 | 开发者 | 中文句子里空缺处的候选词
微调的基础 | 研究人员 | 一个可以改造的预训练中文编码器
学习和演示 | 学生 | 一个能运行的 fill-mask 示例

如何设置：你需要 Python 和 transformers 库。按名称加载时，模型会自动下载。

• Windows、macOS 或 Linux 上的 Python
• transformers 库
• 足够的磁盘空间，F32 权重约 412 MB

1. 安装 Python。
2. 用 pip 安装 transformers 库。
3. 也可以提前用 hub 工具下载模型文件。
4. 按名称加载分词器和模型。

pip install -U huggingface_hub
hf download google-bert/bert-base-chinese

如何使用：按名称加载分词器和掩码语言模型。模型卡只给出了这两步，没有更多内容。

from transformers import AutoTokenizer, AutoModelForMaskedLM

tokenizer = AutoTokenizer.from_pretrained("bert-base-chinese")

model = AutoModelForMaskedLM.from_pretrained("bert-base-chinese")

Tool | What it does
AutoTokenizer | 把中文文本切成模型能读的词片
AutoModelForMaskedLM | 加载预测被遮住的词的模型

示例：你给模型一个遮住了一个词的中文句子。它会提出可以填进空缺的词。

新手与专家：你可以把这个模型看成一个练习过给中文句子填空的读者。第一个小尝试，是运行上面两行加载代码，确认两者都能加载。

在底层，它是一个 12 层的 BERT 编码器，词表有 21128 项。遮罩独立地作用在词片上，和原版 BERT 论文一样。记录里列出 103M 个参数。

一个遮住了一个词的中文句子
分词器把它切成词片
BERT 模型读整个句子
输出空缺处的候选词

注意事项：模型卡把训练数据和评估结果标成还需要更多信息，并带有关于偏见的内容警告。

• Size: 103M 个参数，F32 下约 412 MB，以 Safetensors 格式存放
• Language: 中文
• Other versions: Hugging Face 列出了其他人做的 4 个量化版本和 271 个微调版本
• License: apache-2.0
• Cost to run: 未提及
• Data it reaches: 你给它的文本，以及从 Hugging Face 下载的模型文件
• Not for: 掩码语言建模之外的用途，它是模型卡点名的唯一直接用途

Hugging Face 上的数据（2026年11月13日）

• 任务：fill mask
• 框架：transformers
• 参数量：103M
• Weights: about 412 MB in F32; about 51 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：353,460
• 点赞：1,502
• 许可证：apache-2.0
• 语言：zh
• Quantized versions: 4
• Fine-tunes: 275
• 标签：transformers, pytorch, safetensors, bert, fill-mask

链接

• 模型：https://huggingface.co/google-bert/bert-base-chinese
• 文件：https://huggingface.co/google-bert/bert-base-chinese/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download google-bert/bert-base-chinese

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。