BERT multilingual base model (cased)

BERT multilingual base model (cased)

在 104 种语言中补全被遮蔽的词并提取文本特征。这是区分大小写的 BERT 基础模型，用于微调后做分类、标注和问答。

由 google-bert 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是一个多语言 BERT 基础模型，Google 用 104 种语言的维基百科预训练。它通过猜被遮蔽的词和判断两个句子是否相邻来学习。它区分大小写，所以 english 和 English 算作不同的词。

适合谁：它适合为需要阅读整句话的任务、跨多种语言做微调的开发者和研究者。已经有人发布了 1,038 个它的微调版本。

Title: 谁在用
Industry | Who uses it | How they use it | Example
软件 | NLP 开发者 | 微调它做序列分类或词元分类 | 给多种语言文本打主题标签的工具
研究 | 语言研究者 | 把它当作多语言基线 | 在同一个任务上比较微调版本
客服 | 处理多语言工单的团队 | 在它的特征之上构建分类器 | 跨语言按主题给工单分类

如果你想要写文字的模型，可以跳过它。模型卡建议这时看 GPT2 一类的模型。

用在哪里：

• Windows、macOS 或 Linux 上，配合 transformers 库的 Python
• PyTorch 或 TensorFlow，模型卡两种都给了示例
• 分类、词元分类和问答的微调项目

Title: 它能做的事
Use case | Who | What they get back
预测被遮蔽的词 | 开发者 | 对隐藏词的排序猜测
文本特征 | 研究者 | 可以送进分类器的特征向量
任务微调 | NLP 团队 | 用来训练分类或问答的基础模型

如何设置：

• 装有 transformers 库的 Python
• 特征示例用 PyTorch，另一个示例用 TensorFlow

1. 安装 transformers 和 PyTorch。
2. 如果愿意，可以手动下载模型文件。
3. 在代码里按名字加载模型。

pip install -U huggingface_hub
hf download google-bert/bert-base-multilingual-cased

如何使用：
用 fill-mask 管道做快速测试，或者加载模型取得某段文本的特征。模型卡说原始模型主要是作为微调的起点。

>>> from transformers import pipeline
>>> unmasker = pipeline('fill-mask', model='bert-base-multilingual-cased')
>>> unmasker("Hello I'm a [MASK] model.")

from transformers import BertTokenizer, BertModel
tokenizer = BertTokenizer.from_pretrained('bert-base-multilingual-cased')
model = BertModel.from_pretrained("bert-base-multilingual-cased")
text = "Replace me by any text you'd like."
encoded_input = tokenizer(text, return_tensors='pt')
output = model(**encoded_input)

示例：
你把句子“Hello I'm a [MASK] model.”交给管道，它返回五个对隐藏词的猜测。在模型卡的输出里，最靠前的猜测是 model、world 和 data，分数约为 0.10、0.05 和 0.05。

新手与专家：
如果你是新手，可以把它看作一个靠填空学会语言的模型。第一件小事是用 fill-mask 管道试一个带一个隐藏词的句子。

如果你懂这个领域，模型用遮蔽 15% 词的遮蔽目标，加上下一句预测，以及跨语言共享的 110,000 词 WordPiece 词表。代价在适用范围：它为整句任务而建，不是用来生成文字的。

遮蔽文本里 15% 的词
让整句话通过 BERT
预测被隐藏的词
把特征复用于某个任务

注意事项：

• 语言：预训练覆盖了 104 种语言，选的是维基百科规模最大的那些语言。
• 预期用途：在分类和问答等整句任务上微调。
• 大小写：模型区分大小写。
• 大小：179M 参数，F32 约 714 MB。
• License：apache-2.0。
• Cost to run：没有提到 API 密钥、账号或付费服务。
• Data it reaches：你从 Hugging Face 下载模型，模型卡没有提到别的访问。
• Not for：文本生成，模型卡建议用 GPT2 一类的模型。

Hugging Face 上的数据（2026年11月13日）

• 任务：fill mask
• 框架：transformers
• 参数量：179M
• Weights: about 714 MB in F32; about 89 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：1,539,340
• 点赞：623
• 许可证：apache-2.0
• 语言：af, sq, ar, an, hy, ast, az, ba
• Quantized versions: 11
• Fine-tunes: 1,043
• 标签：transformers, pytorch, safetensors, bert, fill-mask, multilingual

链接

• 模型：https://huggingface.co/google-bert/bert-base-multilingual-cased
• 文件：https://huggingface.co/google-bert/bert-base-multilingual-cased/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download google-bert/bert-base-multilingual-cased

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。