Laya Multilingual

Laya Multilingual

读取邮件、工单等 100 多种语言的文字，一次计算就用带概率的类型化答案回答问题。322M 模型，不生成文字，适合给多语言消息分流的团队。

由 convaiinnovations 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Laya Multilingual 是一个文字决策模型。你把一条消息交给它，比如邮件、工单或 JSON 记录，再附上类型化的问题。一次前向计算之后，它返回类型化的答案，每个答案都带一个概率。它不写文字，所以没有需要解析的内容。它有 322M 参数，覆盖 100 多种语言。

适合谁：需要给多种语言的消息分类，并且想要固定答案而不是自由文本的开发者和客服团队。模型卡把其他语言的文字指向这个检查点。英语检查点是同一系列里的另一个模型。

Title: 谁在用，怎么用
Industry | Who uses it | How they use it | Example
客户支持 | 客服团队 | 把工单分给合适的团队 | 把一条印地语的退款投诉发给账单组
运营 | 后台团队 | 按主题或紧急程度给来信打标签 | 标出哪些邮件要求退款
软件 | 开发者 | 给应用加一个小型分类器 | 每条消息调用一次模型，读取标签
本地化 | 跨国公司 | 用一个模型处理多种语言 | 把混在一起的西班牙语和日语工单一起分类

如果你需要模型写回复或摘要，可以跳过它，因为它只返回标签和概率。

用在哪里：

• Python，配合 laya 包
• 给大量消息流分类的服务器
• Windows、macOS 或 Linux，用于下载文件，需要 Python

Use case | Who | What they get back
工单分流 | 客服团队 | 选出的团队名称和它的概率
是非判断 | 运营团队 | 一个类型化答案，比如发件人是否要求退款
长文档 | 开发者 | 提高上限后，最长 8,192 个 token 的文字的答案

如何设置：你需要 Python 和 pip。安装 laya 包，它会按 Hugging Face 上的名字加载模型。你也可以手动下载文件。

• Python 和 pip
• laya 包
• 按 Hugging Face 的数据，F16 权重约需 644 MB 磁盘空间

1. 安装 laya 包。
2. 按名字加载多语言检查点。
3. 把你的文字和类型化问题传给 predict。

pip install laya
pip install -U huggingface_hub
hf download convaiinnovations/laya-multilingual

如果加载卡住，模型卡说 transformers 可能会探测 TensorFlow 而死锁，用 USE_TF=0 运行就能避免。

如何使用：把文字和一组类型化问题传给 predict。choice 类型的问题会列出各个选项以及每个选项的含义。处理长文档时，把 max_len 设为 8192，因为默认的 1,024 个 token 的上限会把它们截断。

import laya
agent = laya.load("convaiinnovations/laya-multilingual")
result = agent.predict(long_document, questions, max_len=8192)

模型卡还介绍了一个 Router 辅助工具。它在模型运行之前先看输入使用的文字系统，再选择英语或多语言检查点。你可以在启动时预加载两个，这样第一个请求就很快。

from laya import Router
router = Router()
router.preload(["english", "multilingual"])

Tool | What it does
laya.load | 按 Hugging Face 上的名字加载一个检查点
predict | 接收文字和类型化问题，返回带概率的答案
max_len | 把输入上限从 1,024 提高到 8,192 个 token
Router | 把每条消息发给英语或多语言检查点

示例：你传入一条印地语的账单投诉，再加一个 choice 问题，选项是 billing、technical 和 sales。模型一次计算就返回带概率的 billing。你读取标签，把工单分流。

新手与专家：如果你是新手，先对少量消息问一个 choice 问题，看看概率。在自动化任何流程之前，先拿你已知的答案核对。

对熟悉的人来说，编码器是 mmBERT-base，上下文为 1,024 个 token，可扩展到 8,192。模型卡说，短输入在更大的上限下给出相同的答案。它的长文档测试显示，约 4,000 个 token 以内 20 个里答对 16 到 18 个，超过之后答对 8 到 17 个。

文字到达
Router 检查文字系统
Laya 读取文字和问题
一次计算返回类型化答案
你的代码使用标签

注意事项：

Title: 51 种语言的宏平均准确率
Random guess: 0.05 accuracy
English checkpoint: 0.227 accuracy
Multilingual checkpoint: 0.366 accuracy

• License: Apache 2.0
• Cost to run: 没有列出费用，你用的是自己的电脑
• Data it reaches: 它从 Hugging Face 下载文件，模型卡没有提到它还会接触其他内容
• Not for: 写文字，或只处理英语的工作，英语工作模型卡建议用英语检查点
• 请在你自己的数据上测试长文档的准确率，因为模型卡报告说超过大约 4,000 个 token 后结果不稳定

Hugging Face 上的数据（2026年11月13日）

• 任务：text classification
• 框架：transformers
• 参数量：322M
• Weights: about 644 MB in F16; about 161 MB at 4-bit (estimate)
• Formats: Safetensors
• 最近 30 天下载：9,698
• 点赞：422
• 许可证：apache-2.0
• 语言：en, de, fr, es, pt, it, nl, sv
• Quantized versions: 48
• Fine-tunes: 94
• 标签：transformers, safetensors, laya, multilingual, mmbert, system-one, calibrated-decisions, rlcd, classification, routing, guardrails, moderation

链接

• 模型：https://huggingface.co/convaiinnovations/laya-multilingual
• 文件：https://huggingface.co/convaiinnovations/laya-multilingual/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download convaiinnovations/laya-multilingual

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。