Bonsai-27B-GGUF
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
腾讯推出的 1.8B 模型,可在 33 种语言之间翻译,并能遵循翻译指令。适合想自己运行小型翻译模型的开发者和团队。
Hy-MT2-1.8B 是一款工具包,属于写作类,由 Mindket 上架。可免费获取。当前为第 1 版,最近更新于 。在本页下载,是一个装着它全部文件的 zip 压缩包。这些文件不会自己运行。
pip install -U huggingface_hub hf download tencent/Hy-MT2-1.8B
Hy-MT2-1.8B 是腾讯 Hy-MT2 多语种翻译模型家族中最小的一个。这个家族有 1.8B、7B 和 30B-A3B 三种规模。它们都能在 33 种语言之间翻译,并能遵循用多种语言写成的翻译指令。
适合想在自己硬件上运行开放翻译模型的开发者、本地化团队和研究人员。1.8B 的规模适合内存有限的环境,量化版本还能更小。
| Industry | Who uses it | How they use it | Example |
|---|---|---|---|
| 本地化 | 本地化团队 | 在不同语言之间翻译产品文字和帮助页面 | 把一篇帮助文章从英语译成西班牙语 |
| 软件 | 设备端应用的开发者 | 在用户自己的机器上运行小型翻译模型 | 用量化版本做翻译,不依赖云服务 |
| 媒体 | 字幕和说明文字编辑 | 起草翻译文本,再交给人工审核 | 逐行翻译一个字幕文件,然后再编辑 |
| 研究 | 机器翻译研究人员 | 比较模型遵循翻译指令的能力 | 用同期发布的 IFMTBench 基准测试这个模型 |
如果你需要它这 33 种之外的语言,或者想要一个无需设置的托管服务,可以跳过它。
| Use case | Who | What they get back |
|---|---|---|
| 文本翻译 | 写作者和团队 | 译成 33 种语言之一的文本 |
| 按指令翻译 | 开发者 | 遵循语气或格式等指令的译文 |
| 设备端翻译 | 应用开发者 | 来自本地小型版本的翻译,无需调用云端 |
你需要 Python 和存放权重的磁盘空间。
pip install -U huggingface_hub hf download tencent/Hy-MT2-1.8B
你把文字交给模型,并告诉它要翻译成哪种语言。模型卡说它能用多种语言遵循这类指令。这里看到的那部分模型卡没有运行脚本,所以请从完整的模型卡里取加载代码。
这个家族还有其他版本,模型卡用一张表列了出来。
| Tool | What it does |
|---|---|
| Hy-MT2-1.8B | 基础的 1.8B 翻译模型 |
| Hy-MT2-1.8B-FP8 | 使用 FP8 量化的 1.8B 模型 |
| Hy-MT2-1.8B-GGUF | 用于 llama.cpp 的 1.8B 模型 |
| Hy-MT2-1.8B-2bit-GGUF | 2 bit 的 llama.cpp 版本 |
| Hy-MT2-1.8B-1.25bit-GGUF | 1.25 bit 的 llama.cpp 版本 |
| Hy-MT2-7B | 更大的 7B 翻译模型 |
| Hy-MT2-30B-A3B | 最大的模型,采用专家混合结构 |
你让它把一小段文字从中文翻译成英文,它返回英文文本。你还可以加一句关于风格的指令,因为这个模型就是为遵循指令而设计的。
这是一个需要你下载并自己运行的翻译引擎,而不是一个网站。先下载文件,再翻译一句你能核对的话,比如在英语和中文之间。
模型卡称这个家族是为困难翻译场景打造的快思考模型。对于设备端使用,模型卡说 AngelSlim 1.25-bit 量化把 1.8B 模型压缩到 440 MB,推理速度提升 1.5 倍。它还报告说,1.8B 模型整体上超过了主流商业翻译 API,这个说法值得你用自己的文本去核实。
腾讯推出的 1.8B 模型,可在 33 种语言之间翻译,并能遵循翻译指令。适合想自己运行小型翻译模型的开发者和团队。
由 tencent 在 Hugging Face 上制作。这些说明是 Mindket 根据它的模型页面和模型卡写的,模型自己的文件和许可证在 Hugging Face 上。
它是什么:Hy-MT2-1.8B 是腾讯 Hy-MT2 多语种翻译模型家族中最小的一个。这个家族有 1.8B、7B 和 30B-A3B 三种规模。它们都能在 33 种语言之间翻译,并能遵循用多种语言写成的翻译指令。
适合谁:适合想在自己硬件上运行开放翻译模型的开发者、本地化团队和研究人员。1.8B 的规模适合内存有限的环境,量化版本还能更小。
Industry | Who uses it | How they use it | Example
本地化 | 本地化团队 | 在不同语言之间翻译产品文字和帮助页面 | 把一篇帮助文章从英语译成西班牙语
软件 | 设备端应用的开发者 | 在用户自己的机器上运行小型翻译模型 | 用量化版本做翻译,不依赖云服务
媒体 | 字幕和说明文字编辑 | 起草翻译文本,再交给人工审核 | 逐行翻译一个字幕文件,然后再编辑
研究 | 机器翻译研究人员 | 比较模型遵循翻译指令的能力 | 用同期发布的 IFMTBench 基准测试这个模型
如果你需要它这 33 种之外的语言,或者想要一个无需设置的托管服务,可以跳过它。
用在哪里:
Use case | Who | What they get back
文本翻译 | 写作者和团队 | 译成 33 种语言之一的文本
按指令翻译 | 开发者 | 遵循语气或格式等指令的译文
设备端翻译 | 应用开发者 | 来自本地小型版本的翻译,无需调用云端
如何设置:你需要 Python 和存放权重的磁盘空间。
pip install -U huggingface_hub
hf download tencent/Hy-MT2-1.8B
如何使用:你把文字交给模型,并告诉它要翻译成哪种语言。模型卡说它能用多种语言遵循这类指令。这里看到的那部分模型卡没有运行脚本,所以请从完整的模型卡里取加载代码。
这个家族还有其他版本,模型卡用一张表列了出来。
Tool | What it does
Hy-MT2-1.8B | 基础的 1.8B 翻译模型
Hy-MT2-1.8B-FP8 | 使用 FP8 量化的 1.8B 模型
Hy-MT2-1.8B-GGUF | 用于 llama.cpp 的 1.8B 模型
Hy-MT2-1.8B-2bit-GGUF | 2 bit 的 llama.cpp 版本
Hy-MT2-1.8B-1.25bit-GGUF | 1.25 bit 的 llama.cpp 版本
Hy-MT2-7B | 更大的 7B 翻译模型
Hy-MT2-30B-A3B | 最大的模型,采用专家混合结构
示例:你让它把一小段文字从中文翻译成英文,它返回英文文本。你还可以加一句关于风格的指令,因为这个模型就是为遵循指令而设计的。
新手与专家:这是一个需要你下载并自己运行的翻译引擎,而不是一个网站。先下载文件,再翻译一句你能核对的话,比如在英语和中文之间。
模型卡称这个家族是为困难翻译场景打造的快思考模型。对于设备端使用,模型卡说 AngelSlim 1.25-bit 量化把 1.8B 模型压缩到 440 MB,推理速度提升 1.5 倍。它还报告说,1.8B 模型整体上超过了主流商业翻译 API,这个说法值得你用自己的文本去核实。
下载模型文件
用 transformers 加载模型
传入文字和目标语言
读取它返回的译文
Title: 权重大小,单位 GB
BF16 权重: 4.1 GB
4-bit 权重(估算): 1 GB
注意事项:
用 Hugging Face 的命令行下载它的文件:
pip install -U huggingface_hub
hf download tencent/Hy-MT2-1.8B
然后按它的模型卡使用它。这个工具包里没有会自己运行的东西。
README.md 6 KB
同一分类里与本产品共有标签最多的已上架 Hugging Face 模型。
| 产品 | 最近 30 天下载 | 点赞 | 参数量 | 许可证 | 最近更新 |
|---|---|---|---|---|---|
| Hy-MT2-1.8B 本页 | 22,844 | 1,285 | 2B | apache-2.0 | |
| SMaLL-100共有 translation · transformers · safetensors | 10,902 | 113 | 333M | mit | |
| opus-mt-en-zh共有 translation · transformers | 69,966 | 411 | — | apache-2.0 | |
| Index-Translate-2B共有 translation · safetensors | 1,891 | 81 | 2.3B | apache-2.0 | |
| Hemmingway-1共有 transformers · text-generation · safetensors | 3,631 | 902 | 26.9B | cc-by-nc-4.0 | |
| Hemmingway-1.5共有 transformers · text-generation · safetensors | 3,322 | 61 | 26.9B | cc-by-nc-4.0 |
Hacker News、Bluesky、X、Reddit、Facebook 和 YouTube 上提到这个项目的帖子和评论,来自每周一次的搜索和 Trendshift。它们不是 Mindket 写的,也未经核实,点开即可在原帖处阅读。
lmstudio-community · 工具包
面向 LM Studio 的 27B Bonsai 模型 GGUF 转换版,含 3.80 GB 的 Q1_0 语言文件和 0.93 GB 的 BF16 视觉投影器。已测试文本、视觉和并行工具调用。
LibertAIDAI · 工具包
以每权重 2.9 位的 EXL3 量化运行 DeepSeek-V4.1-Flash-1017,这是一份 196 GiB 的副本,适合在自己硬件上部署大模型的人。困惑度与原模型相差不大。
facebook · 工具包
根据文字描述或音频提示生成短音乐片段,是 facebook MusicGen 的 small 检查点。适合想在自己电脑上试用文字生成音乐的开发者和音乐爱好者。
vennify · 工具包
用在 JFLEG 数据集上训练的 T5 模型改写英文文本,减少语法错误。由 vennify 制作,适合想在 Python 里加入语法修正步骤的写作者、学生和开发者。
tencent · 工具包
在你自己的设备上用压缩到 1.25 比特的 1.8B 模型进行 33 种语言之间的翻译,GGUF 文件约 440 MB,适用于 llama.cpp。适合给应用加入离线翻译的开发者。
summerAIO · 工具包
用经过微调、采用 Gated DeltaNet 层的 27B 模型,对整本书长度的文字做摘要、问答和续写,支持英语和日语。适合处理长文档的人。