send-gate-307m

send-gate-307m

检查荷兰语、佛兰芒语和英语的青少年聊天消息，返回拦截或放行，能发现有害用语以及分享的地址、IP 和链接。适合构建儿童安全聊天应用的人。

由 yamura4 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：send-gate 是一个面向荷兰语、佛兰芒语和英语青少年聊天的安全关卡。它读取一条消息，返回拦截或放行，没有中间的待审状态。它把一个 307M 参数的分类器和三个较小的学习分支结合起来，分别负责字符模式、地址与链接，以及普通聊天。

适合谁：它适合开发青少年聊天应用、想在消息发出之前拦下含有地址、IP、链接或有害用语的消息的开发者。

行业 | 谁在用 | 怎么用 | 例子
教育科技 | 学校聊天应用的构建者 | 在每条消息发出之前进行筛查 | 拦下泄露家庭住址的消息
青少年平台 | 社区审核员 | 给审核加上一道自动的初步检查 | 拦下青少年聊天里指向外部网站的链接
游戏 | 游戏聊天开发者 | 过滤有害用语和联系方式 | 拦下用纯数字打出的 IP 地址
小型设备 | 用树莓派的爱好者 | 在本地开发板上运行这个关卡 | 为学校项目做的家用聊天盒子

如果你的用户使用其他语言，可以跳过它，因为模型卡只覆盖荷兰语、佛兰芒语和英语。

用在哪里：

• Python 3.11 或更高版本，通过关卡脚本或随附的小型 HTTP 服务器使用
• 树莓派 5，模型卡说最低需要 4 GB，推荐 8 GB
• 普通的 x86 电脑，模型卡在这上面测过速度
• Windows、macOS 或 Linux，下载需要 Python

用途 | 适合谁 | 得到什么
检查一条消息 | 聊天开发者 | 拦截或放行的结论
发现分享的地址和链接 | 审核员 | 对带有联系方式的消息给出拦截
运行本地检查服务 | 爱好者 | 一个带网页和 JSON 接口的服务器

如何设置：

• Python 3.11 或更高版本
• 磁盘空间，主模型约 419 MB，另有一些很小的附加文件
• 按模型卡所说，完整服务器大约需要 1.29 GiB 内存

1. 把仓库文件取到你的电脑上。
2. 创建一个 Python 虚拟环境并激活它。
3. 安装依赖。
4. 在你选的端口上启动服务器。

pip install -U huggingface_hub
hf download yamura4/send-gate-307m

python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt

如何使用：你可以在 Python 里调用这个关卡，也可以运行随附的服务器，把消息发给它。模型卡说这个服务器没有登录和 TLS，所以要暴露到互联网之前，先在前面放一个反向代理。

from gate import SendGate
gate = SendGate(
    model_path="model.onnx",
    tokenizer_path="tokenizer.json",
    ngram_model_path="ngram_model.npz",
)
print(gate.check("kkrtest"))

示例：一个聊天应用把每条发出的青少年消息交给这个关卡。带有街道地址和城镇的消息得到拦截，而只是拒绝透露地址的消息得到放行。模型卡在它的策略示例里列出了这两类。

新手与专家：如果你是新手，先对几条无害的消息运行这段 Python 代码，看看结论。要记住，这样的关卡只是一层安全措施，并不保证所有有风险的内容都能拦住。

如果你熟悉这个领域：决策把四个学习分支和固定阈值结合起来。主分类器在 0.94 处拦截，字符分支在 0.95，策略分支在 0.85，而良性分支在 0.99 时可以压住拦截。模型卡说它没有正则表达式也没有词表，并且动态输入不能做填充。

青少年写下一条消息
关卡读取文本
四个学习分支给它打分
阈值决定拦截还是放行
应用发送或拦下这条消息

注意事项：

指标 | 结果
在 804 条上的准确率 | 94.2%
抓到的有害消息 | 95.6%，295 条中的 282 条
被误拦的良性消息 | 6.7%，509 条中的 34 条

• Limits: 地址和链接分支是从合成格式里学来的，所以不能保证覆盖每一种域名后缀、空格花招或真实地址样式。
• Known miss: 有一个日常短语是已知的误拦，另外一些结论离阈值很近。
• Hardware: 不建议使用 2 GB 的开发板，树莓派的速度没有测过。
• License: MIT 适用于项目代码。底层的 mmBERT-base 模型有它自己的条款，用于收费场景之前要先读一读。
• Cost to run: 未提及。
• Data it reaches: 服务器在缺少文件时会下载它的五个模型文件，并且只检查你发给它的文本。

Hugging Face 上的数据（2026年11月14日）

• 任务：text classification
• 最近 30 天下载：555
• 点赞：2
• 许可证：mit
• 语言：nl, en
• 标签：onnx, student_gate_pure, text-classification, content-moderation, safety, dutch, flemish, english, mmbert, binary-classifier, no-rules, quantized

链接

• 模型：https://huggingface.co/yamura4/send-gate-307m
• 文件：https://huggingface.co/yamura4/send-gate-307m/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download yamura4/send-gate-307m

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。