Hy-MT2:基于 HuggingFace/ModelScope 生态的多语言翻译模型项目

English ｜ 中文

🖥️ 官方网站  |   💬 GitHub  |   🪡 AngelSlim  |   📚 Hy-MT2 报告

模型介绍

Hy-MT2 是一款面向真实复杂场景的“快思考”多语言翻译模型家族，涵盖 1.8B、7B 和 30B-A3B（MoE）三种规格，支持 33 种语言互译，并具备强大的多语言指令遵循能力。在端侧部署方面，得益于 AngelSlim 1.25-bit 极限量化，1.8B 模型仅需 440MB 存储空间，推理速度可显著提升至 1.5 倍。多维度评测显示，Hy-MT2 在通用翻译、真实业务、专业领域及指令遵循等任务中表现卓越：7B 和 30B-A3B 模型在快思考模式下的性能不仅超越 DeepSeek-V4-Pro、Kimi K2.6 等开源模型，轻量级 1.8B 模型的整体表现也超过微软和豆包等主流商业 API。

与此同时，我们还开源了面向翻译指令遵循能力的评测集IFMTBench。

我们也欢迎大家使用已发布的 Hy-MT2-Translator Skill，以便便捷接入 Hy-MT2 系列模型完成翻译任务，下载链接ClawHub和SkillHub。

目前，腾讯混元也正与 WMT26 官方合作举办「视频字幕翻译比赛」（https://www2.statmt.org/wmt26/video-subtitle-translation.html ），使用 Hy-MT 系列模型参加「通用机器翻译比赛」（https://www2.statmt.org/wmt26/translation-task.html ）和「视频字幕翻译比赛」，有机会获得混元特设奖励，诚邀大家参与，共同推动机器翻译前沿技术发展。

新闻

• 2026.5.21 我们已在 HuggingFace 和 ModelScope 上开源 Hy-MT2-1.8B/Hy-MT2-7B/Hy-MT2-30B-A3B/IFMTBench
• 2025.12.30 我们已在 HuggingFace 和 ModelScope 上开源 HY-MT1.5-1.8B 和 HY-MT1.5-7B
• 2025.9.1 我们已在 HuggingFace 和 ModelScope 上开源 Hunyuan-MT-7B 和 Hunyuan-MT-Chimera-7B。

效果

更多实验效果与分析可参考我们的报告。

 

模型链接

模型名	简介	下载链接
Hy-MT2-1.8B	混元1.8B翻译模型	🤗 模型
Hy-MT2-1.8B-FP8	混元1.8B翻译模型，fp8量化	🤗 模型
Hy-MT2-1.8B-GGUF	混元1.8B翻译模型， llama.cpp	🤗 模型
Hy-MT2-1.8B-2bit-GGUF	混元1.8B翻译模型， llama.cpp, 2bit	🤗 模型
Hy-MT2-1.8B-1.25bit-GGUF	混元1.8B翻译模型， llama.cpp, 1.25bit	🤗 模型
Hy-MT2-7B	混元7B翻译模型	🤗 模型
Hy-MT2-7B-FP8	混元7B翻译模型，fp8量化	🤗 模型
Hy-MT2-7B-GGUF	混元7B翻译模型， llama.cpp	🤗 模型
Hy-MT2-30B-A3B	混元30B-A3B翻译模型	🤗 模型
Hy-MT2-30B-A3B-FP8	混元30B-A3B翻译模型，fp8量化	🤗 模型

Hy-MT2 翻译任务指令示例（中英文对照）

注意：下面的source_lang和target_lang都使用语言的全称，中文使用中文全称，英文使用英文全称。

类型	中文提示词	英文提示词
默认翻译	将以下文本翻译为 {target_lang}，注意只需要输出翻译后的结果，不要额外解释： {source_text}	将以下文本翻译为 {target_lang}。注意只需要输出翻译后的结果，不要额外解释： {source_text}
术语	参考下面的翻译： {text} 翻译成 {text} {text} 翻译成 {text} {text} 翻译成 {text} 将以下文本翻译为 {target_lang}，注意只需要输出翻译后的结果，不要额外解释： {source_text}	参考以下翻译： {text} 翻译为 {text} {text} 翻译为 {text} {text} 翻译为 {text} 将以下文本翻译为 {target_lang}。注意必须只输出翻译后的结果，不要额外解释： {source_text}
风格	请将以下文本翻译为 {target_lang}。 注意翻译的风格要严格符合【{target_style}】 {source_text}	请将以下文本翻译为 {target_lang}。 注意翻译风格必须严格符合【{target_style}】： {source_text}
个性化	【待翻译文本】 {source_text} 【翻译任务】 1、{user_preferences} 2、{user_preferences} 3、…… 4、将【待翻译文本】翻译为 {target_lang}。	【源文本】 {source_text} 【翻译任务】 1. {user_preferences} 2. {user_preferences} 3. ... 4. 将【源文本】翻译为 {target_lang}。
分隔符	请将以下文本准确翻译为 {target_lang}。 你必须在译文中保留等量的分隔符，绝对不可遗漏、转义或翻译该符号，并注意分隔符的位置。 {source_text}	请将以下文本准确翻译为 {target_lang}。 你必须在译文中保留完全相同数量的分隔符，切勿遗漏、转义或翻译这些符号，并务必注意其位置。 {source_text}
结构化数据 1	# 任务目标 将下方 {source_text} 中的 {format_type} 格式数据翻译为 {target_lang}。 # 严格约束 1. 结构锁定：绝对保持原有的 {format_type} 数据结构、缩进和层级完全不变。 2. 选择性翻译：仅翻译面向用户展示的可见文本内容。 3. 禁止修改：严禁翻译或更改任何代码标签、键名 (Key)、变量占位符（如 {{var}}、${var}、%s、%d 等）或代码属性。 # 数据输入 {source_text}	### 任务 将下方 {format_type} 数据中面向用户的可见文本翻译为 {target_lang}。 ### 严格规则 1. 结构保持： 必须完整保留原有 {format_type} 的数据结构、嵌套、层级和缩进，不得改变。 2. 选择性翻译： 只翻译可见的、面向用户的文本内容或值。 3. 严格禁译： 绝不翻译或更改代码标签、键名、属性、对象名称或变量占位符。请将其原样保留为原始英文/代码形式。 ### 源数据 {source_text}
结构化数据 2	【背景信息】 {background_text} 请结合背景信息将以下文本翻译为 {target_lang}。 【待翻译文本】 {source_text}	[背景信息] {background_text} 请结合提供的背景信息，将以下文本翻译为 {target_lang}。 [源文本] {source_text}

---

推理与部署

对于 1.8B 和 7B，我们建议使用以下参数进行推理。请注意，我们的模型未提供默认 system_prompt。

{
  "temperature": 0.7,
  "top_p": 0.6,
  "top_k": 20,
  "repetition_penalty": 1.05,
  "max_tokens": 4096
}

对于 30B-A3B，我们建议使用以下这组参数进行推理。请注意，我们的模型没有默认的 system_prompt。

{
  "temperature": 0.7,
  "top_p": 1.0,
  "top_k": -1,
  "repetition_penalty": 1.0,
  "max_tokens": 4096
}

transformers

transformers>=5.6.0

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_path = "tencent/Hy-MT2-30B-A3B"

# Load tokenizer
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)

# Load model
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True,
)

model.eval()

# Example inference
prompt = "将以下文本翻译成英语,注意只需要输出翻译后的结果,不要额外解释:\n\n今天天气真好。"
messages = [{"role": "user", "content": prompt}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)

with torch.no_grad():
    outputs = model.generate(
        **inputs,
        max_new_tokens=4096,
    )
response = tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True)
print(response)

vllm

从源代码构建 vLLM：

uv venv --python 3.12 --seed --managed-python
source .venv/bin/activate
git clone https://github.com/vllm-project/vllm.git
cd vllm
uv pip install --editable . --torch-backend=auto

启动 vLLM 服务器：

vllm serve tencent/Hy-MT2-30B-A3B --tensor-parallel-size 1

sglang

从源码构建 SGLang：

git clone https://github.com/sgl-project/sglang
cd sglang
pip3 install pip --upgrade
pip3 install "transformers>=5.6.0"
pip3 install -e "python"

启动 SGLang 服务器：

python3 -m sglang.launch_server --model tencent/Hy-MT2-30B-A3B --tp 1

llama_cpp

❕❕ 该 GGUF 依赖我们的 STQ kernel，已发布于 PR #22836。

克隆 llama.cpp

git clone https://github.com/ggml-org/llama.cpp.git

进入 llama.cpp 文件夹

cd llama.cpp

构建 llama.cpp

cmake -B build
cmake --build build --config Release

运行补全示例

./build/bin/llama-completion \
  --model model.gguf  \
  -p "Translate the following segment into Chinese, without additional explanation：Hello" \
  --jinja \
  -ngl 0 \
  -n 64 -st 

运行 llama.cpp 基准测试

./build/bin/llama-bench -m model_zoo/model.gguf  -ngl 0

模型训练

Hy-MT2 提供完整的模型训练流程，支持全量微调与 LoRA 微调，并兼容 DeepSpeed ZeRO 多种配置以及 LLaMA-Factory 集成。

详细训练文档请参考：模型训练指南

量化工具

我们提供 AngelSlim——一套易用、全面且高效的大模型压缩工具包，涵盖常用量化算法、低比特量化与投机采样等能力。

支持的语种

语言	缩写	中文名称
Chinese	zh	中文
English	en	英语
French	fr	法语
Portuguese	pt	葡萄牙语
Spanish	es	西班牙语
Japanese	ja	日语
Turkish	tr	土耳其语
Russian	ru	俄语
Arabic	ar	阿拉伯语
Korean	ko	韩语
Thai	th	泰语
Italian	it	意大利语
German	de	德语
Vietnamese	vi	越南语
Malay	ms	马来语
Indonesian	id	印尼语
Filipino	tl	菲律宾语
Hindi	hi	印地语
Traditional Chinese	zh-Hant	繁体中文
Polish	pl	波兰语
Czech	cs	捷克语
Dutch	nl	荷兰语
Khmer	km	高棉语
Burmese	my	缅甸语
Persian	fa	波斯语
Gujarati	gu	古吉拉特语
Urdu	ur	乌尔都语
Telugu	te	泰卢固语
Marathi	mr	马拉地语
Hebrew	he	希伯来语
Bengali	bn	孟加拉语
Tamil	ta	泰米尔语
Ukrainian	uk	乌克兰语
Tibetan	bo	藏语
Kazakh	kk	哈萨克语
Mongolian	mn	蒙古语
Uyghur	ug	维吾尔语
Cantonese	yue	粤语

引用 Hy-MT2

@misc{zheng2026hymt2familyfastefficient,
      title={Hy-MT2: A Family of Fast, Efficient and Powerful Multilingual Translation Models in the Wild}, 
      author={Mao Zheng and Zheng Li and Tao Chen and Bo Lv and Mingrui Sun and Mingyang Song and Jinlong Song and Hong Huang and Decheng Wu and Hai Wang and Yifan Song and Yanfeng Chen and Guanwei Zhang},
      year={2026},
      eprint={2605.22064},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2605.22064}, 
} 

联系我们

若您希望向我们的研发与产品团队反馈，欢迎联系腾讯混元LLM团队。您可以通过邮件（hunyuan_opensource@tencent.com）与我们取得联系。