Hy-MT2-7B-GGUF

Hy-MT2-7B-GGUF

在 33 种语言之间翻译文本并遵循翻译指令，是腾讯 7B 模型面向 llama.cpp 的 GGUF 版本。适合在本地运行翻译的开发者。

由 tencent 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的，模型自己的文件和许可证在 Hugging Face 上。

简介

它是什么：这是 Hy-MT2-7B 的 GGUF 版本，Hy-MT2-7B 是腾讯的翻译模型。Hy-MT2 系列有三种规模，支持 33 种语言之间的翻译，并能遵循用多种语言给出的翻译指令。GGUF 格式面向 llama.cpp，所以你可以在自己的机器上运行这个 7B 模型。

适合谁：它适合想自己托管机器翻译的开发者和团队，也适合想告诉翻译器怎么翻的人，比如指定语气或风格。

行业 | 使用者 | 用法 | 例子
软件 | 应用开发者 | 不依赖托管服务，为产品加入翻译 | 把界面文案翻成另一种语言
媒体 | 字幕团队 | 带着风格说明翻译视频字幕 | 在保持指定语体的前提下转换字幕
研究 | 机器翻译研究者 | 把开源 7B 翻译模型和其他开源模型对比 | 测试翻译任务中的指令遵循

需要特别小的下载体积的人可以跳过，因为系列里还有更小的 1.8B 版本和更低比特的 GGUF 文件。

用在哪里：

• llama.cpp 以及基于 GGUF 格式的工具
• Windows、macOS 或 Linux，用 Python 就能下载文件
• 你自己应用和脚本里的翻译功能

使用场景 | 谁用 | 得到什么
在支持的语言之间翻译文本 | 开发者 | 你指定语言的译文
遵循翻译指令 | 写作者和本地化人员 | 按你的指令调整的译文
在自己的硬件上离线翻译 | 注重隐私的团队 | 不必把文字发给托管服务就能得到译文

如何设置：

• 装有 pip 的 Python，用来下载文件
• 一个 GGUF 运行环境，比如 llama.cpp
• 约 3.8 GB 磁盘空间，这是权重 4 比特的估算值

1. 安装 Hugging Face 的 hub 客户端。
2. 下载模型文件。
3. 让 llama.cpp 指向下载好的 GGUF 文件。

pip install -U huggingface_hub
hf download tencent/Hy-MT2-7B-GGUF

如何使用：把要翻译的文字交给模型，并附上一句关于语言对或风格的简单指令。模型卡里的指令示例展示了这种写法，有中文也有英文。

示例：你贴上一段文字，要求翻成 33 种支持语言中的另一种，并补一句关于正式程度的指令。模型会返回目标语言的这段文字。

新手与专家：这是一个翻译引擎，不是聊天机器人。先下载文件，在 llama.cpp 里加载，再从翻译一句你能核对的短句开始。

Hy-MT2 被描述为一个快思考系列，有 1.8B、7B 和 30B-A3B 混合专家三种规模，这个文件是其中 7B 的 GGUF 版本，约 7.5B 参数。模型卡称 7B 和 30B-A3B 在快思考模式下超过了几个更大的开源模型。腾讯还发布了 IFMTBench，用来评测翻译的指令遵循能力。

你提供文字和指令
llama.cpp 加载 GGUF 文件
7B 模型进行翻译
返回译文

注意事项：

• 语言：支持 33 种语言之间的翻译
• 体积：约 7.5B 参数，4 比特约 3.8 GB，为估算值
• 系列：模型卡里链接了其他规模和量化版本，包括 1.8B 和 30B-A3B
• License: Apache 2.0
• Cost to run: 未提及
• Data it reaches: 你交给它的文字，模型卡未提到网络或账号访问
• Not for: 聊天或其他任务，因为它专为翻译而建

Hugging Face 上的数据（2026年11月13日）

• 参数量：7.5B
• Weights: about 3.8 GB at 4-bit (estimate)
• Formats: GGUF
• 最近 30 天下载：1,158,882
• 点赞：104
• 许可证：apache-2.0
• 基于：tencent/Hy-MT2-7B
• 标签：gguf, conversational

链接

• 模型：https://huggingface.co/tencent/Hy-MT2-7B-GGUF
• 文件：https://huggingface.co/tencent/Hy-MT2-7B-GGUF/tree/main

获取模型

用 Hugging Face 的命令行下载它的文件：

pip install -U huggingface_hub
hf download tencent/Hy-MT2-7B-GGUF

然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。