Hy-MT2-1.8B-GGUF

Hy-MT2-1.8B-GGUF

在 33 种语言之间翻译文本并遵循翻译指令，是适用于 llama.cpp 的 1.8B GGUF 格式模型。适合想要一个小型本地翻译器的开发者。

由 tencent 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：Hy-MT2-1.8B-GGUF 是腾讯 Hy-MT2 翻译模型家族里最小的模型，打包成适用于 llama.cpp 的 GGUF 文件。它覆盖 33 种语言，并能听从用其中多种语言给出的翻译指令。作者说它整体上胜过 Microsoft 和 Doubao 的商业翻译服务。

适合谁：它适合想要一个可以自己运行的小型翻译器的开发者，也适合在支持的语言之间翻译内容或字幕的团队。

Industry | Who uses it | How they use it | Example
本地化 | 翻译团队 | 在支持的语言之间起草译文 | 把一段中文产品描述翻成英文
软件 | 应用开发者 | 给应用加上一个本地小型翻译器 | 一个在用户机器上运行的翻译按钮
媒体 | 字幕团队 | 用语气指令翻译字幕行 | 把一段短视频的字幕翻成另一种语言

如果你需要更大的 7B 或 30B-A3B 模型，或者需要通用聊天模型，可以跳过它，因为这个家族是为翻译而做的。

用在哪里：

• llama.cpp，这个 GGUF 版本就是为它准备的
• Windows、macOS 或 Linux，下载步骤需要 Python
• 智能体环境，通过腾讯为这些模型发布的 Hy-MT2-Translator Skill 使用

Use case | Who | What they get back
文本翻译 | 开发者 | 33 种语言中任意两种之间的译文
按指令翻译 | 本地化团队 | 遵循书面指令的译文
本地翻译器 | 应用构建者 | 一个在 llama.cpp 里运行的小模型

如何设置：

• Python，用来运行 Hugging Face 下载工具
• huggingface_hub 包
• 一个能加载 GGUF 文件的 llama.cpp 环境
• 为约 896 MB 的模型文件留出空间，这是 4-bit 的估计值

1. 安装 Hugging Face 的 hub 包。
2. 把仓库文件下载到你的电脑。
3. 在 llama.cpp 里加载 gguf 文件。

pip install -U huggingface_hub
hf download tencent/Hy-MT2-1.8B-GGUF

如何使用：你把文本交给模型，并用平实的话说明你想要哪种语言。这里给出的模型卡部分没有运行命令，所以请按 llama.cpp 自己的步骤来加载 GGUF 文件。

Tool | What it does
hf download | 把模型文件下载到你的电脑
llama.cpp | 加载并运行 GGUF 文件
Hy-MT2-Translator Skill | 腾讯发布的技能，用来在翻译工作中使用 Hy-MT2 模型
IFMTBench | 腾讯发布的翻译指令遵循基准

示例：你问："Translate this paragraph into Chinese and keep the tone formal." 模型会返回这段话的中文版，并按你给出的语气指令来写。

新手与专家：如果你是新手，翻译模型就是把文字从一种语言变成另一种语言。上手时，先下载文件，再在 llama.cpp 里打开 gguf 文件，输入一句短句。

如果你熟悉这个领域：Hy-MT2 有 1.8B、7B 和 30B-A3B 三种尺寸，小模型还有 FP8、2-bit 和 1.25-bit 的变体。模型卡说 1.25-bit 量化能把 1.8B 模型压到 440 MB，并把推理速度提高 1.5x。那是另一个下载项。

你给出文本和语言指令
llama.cpp 加载 GGUF 文件
1.8B 模型翻译文本
你拿回译文

注意事项：

Title: Hy-MT2 家族的模型尺寸
最小: 1.8 十亿
中间: 7 十亿
最大: 30 十亿

• 语言：33 种
• 大小：4-bit 约 896 MB，为估计值
• 其他变体：FP8、2-bit 和 1.25-bit 版本，以及 7B 和 30B-A3B 模型
• 基准方面的说法来自腾讯自己的评测
• License: apache-2.0
• Cost to run: 没有提到费用
• Data it reaches: 你给它的文本，以及你从 Hugging Face 下载的文件
• Not for: 通用聊天，因为这个家族是为翻译而做的

Hugging Face 上的数据（2026年11月13日）

• 参数量：1.8B
• Weights: about 896 MB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：382,300
• 点赞：257
• 许可证：apache-2.0
• 基于：tencent/Hy-MT2-1.8B
• Quantized versions: 2
• Fine-tunes: 1
• 标签：gguf, conversational

链接

• 模型：https://huggingface.co/tencent/Hy-MT2-1.8B-GGUF
• 文件：https://huggingface.co/tencent/Hy-MT2-1.8B-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download tencent/Hy-MT2-1.8B-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。