腾讯混元 Hy-MT2 是什么?附 Ollama 本地部署与 GGUF 下载教程封面图
AI 编程约 8 分钟

腾讯混元 Hy-MT2 是什么?附 Ollama 本地部署与 GGUF 下载教程

AI 指南··◉ 0 浏览

腾讯混元 Hy-MT2 是腾讯 2026 年 5 月 21 日开源的多语言翻译模型家族,包含 1.8B、7B、30B-A3B(MoE)三种规格,支持 33 种语言互译,采用 Apache 2.0 协议,个人和商用都可以免费使用。它不是通用聊天模型,而是专门为翻译任务训练的"快思考"模型——按官方口径,7B 和 30B-A3B 在翻译任务上超越了 DeepSeek-V4-Pro、Kimi K2.6 等开源模型,轻量的 1.8B 版本总体表现也超过微软、豆包等主流商业翻译 API。

Hy-MT2 模型家族:1.8B / 7B / 30B-A3B 三种规格一览

这篇文章会讲清楚:Hy-MT2 各规格的区别与怎么选、官方评测成绩、Ollama 一条命令本地部署、官方 GGUF 下载与 llama.cpp 部署、1.8B 手机/端侧安装(440MB 极致量化)、云 API 调用,以及实测中需要注意的坑。

Hy-MT2 是什么:专为翻译而生的模型家族

Hy-MT2 是腾讯混元翻译模型系列的第三代。前两代分别是 2025 年 9 月开源的 Hunyuan-MT-7B 和 2025 年 12 月开源的 HY-MT1.5 系列,Hy-MT2 在 2026 年 5 月 21 日一次性开源了三个规格,并同步放出了翻译指令遵循评测集 IFMTBench。

腾讯混元翻译模型三代演进时间线:Hunyuan-MT、HY-MT1.5、Hy-MT2

三种规格的定位很清晰:

规格 类型 适合场景 特点
Hy-MT2-1.8B 轻量稠密 笔记本、手机、端侧设备 极致量化后仅 440MB,推理速度提升 1.5 倍
Hy-MT2-7B 主力稠密 桌面显卡本地部署 质量与速度平衡,个人开发者首选
Hy-MT2-30B-A3B MoE 旗舰 专业翻译生产环境 总参数 30B、激活约 3B,质量最高且推理高效

它支持中、英、日、韩、德、法、西等 33 种语言互译,并且能听懂翻译指令——比如指定术语表、指定文风、要求保留分隔符等,这是它和通用大模型"顺手翻一下"最大的区别。官方还配套发布了 Hy-MT2-Translator Skill,可以直接把它接入 Agent 工作流做翻译任务;如果你在搭 Agent,可以先看看什么是 AI Agent 补齐概念。

Hy-MT2 的翻译表现如何

根据腾讯混元官方模型卡和技术报告(arXiv):

  • 7B 和 30B-A3B:在快思考(fast-thinking)模式下,于通用、真实业务、领域垂直、指令遵循四类翻译任务上,超越 DeepSeek-V4-Pro、Kimi K2.6 等开源模型,达到开源模型最佳水平;
  • 1.8B:作为轻量模型,总体表现超过微软、豆包等厂商的主流商业翻译 API;
  • 官方与 WMT26 合作:Hy-MT 团队成为 WMT26 视频字幕翻译任务的官方合作方,使用 Hy-MT 系列参赛还有机会获得混元特别奖。

需要说明:以上是官方评测口径。社区实测(知乎部署文)提到 1.8B 版处理短文本问题不大,但输入超过约 1k tokens 后质量会明显下降——这也符合小模型的普遍规律,长文档建议用 7B 或 30B-A3B,或分段翻译。

Hy-MT2 免费吗?协议与下载渠道

免费。 Hy-MT2 全系列在 ModelScope 显示为 Apache 2.0 协议,个人使用、商用都无需付费。官方下载渠道有两个:

Hy-MT2 Ollama 本地部署教程

Ollama 官方库目前没有收录 Hy-MT2(搜出来的是社区上传版),想用 Ollama 一条命令跑起来,推荐社区打包的 kaelri/hy-mt2——它直接使用腾讯官方 GGUF 权重,只是补了 Ollama 兼容的提示词模板,权重和推理行为都没有改动。

步骤如下:

  1. 安装 Ollama(ollama.com 下载对应系统版本);
  2. 终端执行一条命令拉取并运行:
ollama run kaelri/hy-mt2:1.8b
  1. 想要更高质量,换 7B 版(需约 6.2GB 显存/内存):
ollama run kaelri/hy-mt2:7b

几个实测要注意的点(来自该模型页的基准测试说明):

  • 默认 tag 是 Q6_K 量化,1.8B 体积约 1.5GB;也有 Q4_K_M、Q8_0 可选;
  • 模型上下文窗口 256K,但它本质是翻译模型,不要指望它执行翻译之外的指令(测试中指令覆盖行为不可靠);
  • 偶尔会输出形如 <|hy-Assistant|> 的控制符残留,这是解码副作用,可在参数里配 stop 词过滤;
  • 社区用 500 条 FLORES-200 中英样本 + COMET 评测,Q6_K 的 1.8B 得分 0.8954,质量不错。

Hy-MT2 GGUF 下载与 llama.cpp 部署

如果你不想经过 Ollama 这层包装,可以直接用官方 GGUF 文件 + llama.cpp:

模型 用途 下载
Hy-MT2-1.8B-GGUF 标准量化(约 4.5GB) ModelScope
Hy-MT2-1.8B-2bit-GGUF 2bit 极限压缩 HuggingFace / ModelScope
Hy-MT2-1.8B-1.25bit-GGUF 1.25bit 极致量化,仅 440MB HuggingFace / ModelScope
Hy-MT2-7B-GGUF 7B 标准量化 HuggingFace / ModelScope

以 llama.cpp 为例:

# 编译(首次)
cmake -B build && cmake --build build --config Release

# 启动一个兼容 OpenAI 接口的本地翻译服务
llama-server -m Hy-MT2-1.8B-GGUF-*.gguf --port 8080

官方模型卡里同样提供了 vLLM、SGLang 的部署脚本,生产环境按需选择。调用时记得用官方提示词模板,最基础的格式是:将以下文本翻译为 {目标语言},注意只需要输出翻译后的结果,不要额外解释:{原文},语言名要写全称(如"简体中文""English")。

Hy-MT2-1.8B 手机/端侧安装怎么弄

手机端没有官方 App,可行路径是端侧推理框架 + 极致量化 GGUF:

  • 官方为端侧场景用 AngelSlim 做了 1.25bit 极致量化,把 1.8B 模型压到仅 440MB,推理速度还提升了 1.5 倍——这个体积放在手机上完全现实;
  • Android 可通过 llama.cpp 的 Android 移植或 Termux 自行编译运行;iOS 侧同理可借助支持 GGUF 的端侧框架加载;
  • 再提醒一次局限:1.8B 在超过 1k tokens 的长文本上质量会下降,手机端适合短句、对话式翻译,不适合整篇文章。

如果你的需求只是"手机上随时翻译",不想折腾,直接用混元 App / 元宝的翻译功能或云 API 更省事。

Hy-MT2 API 调用:不想自己部署的选择

本地部署之外的第四条路是云 API:在腾讯云混元大模型产品页开通后即可通过接口调用混元系列模型,接口兼容 OpenAI 格式,适合调用量波动大、不想维护 GPU 的团队。具体支持的模型 ID 和价格以官网为准,这里不引用会过时的数字。

Hy-MT2 四种上手路径怎么选:云 API、Ollama、llama.cpp、端侧手机安装

总结

Hy-MT2 的价值在于把"专业翻译模型"做成了免费开源的三档选择:手机/端侧选 1.8B(440MB 极致量化),桌面本地选 7B(Ollama 一条命令),生产环境选 30B-A3B(MoE 高质量)。上手成本最低的路径是 Ollama + kaelri/hy-mt2;要求完全可控就用官方 GGUF + llama.cpp;不想折腾就用云 API。如果你关注腾讯混元家族的其他模型,可以接着读腾讯混元 Hy4 Preview 发布:新能力与使用要点,做通用能力选型可以参考AI 编程工具怎么选。


最后更新于 2026 年 8 月。本文由 AI345 编辑部基于腾讯混元官方模型卡、GitHub 仓库、arXiv 技术报告及 Ollama 社区实测资料整理撰写,事实性内容均标注了来源链接。

参考资料

常见问题

Hy-MT2 是免费的吗?

是。全系列采用 Apache 2.0 协议开源,个人和商用均免费,权重可在 ModelScope、Hugging Face 免费下载。

hy-mt2 ollama 怎么跑?

Ollama 官方库暂无收录,用社区打包版:`ollama run kaelri/hy-mt2:1.8b`(或 `:7b`),它基于官方 GGUF 权重补了兼容模板。

Hy-MT2-1.8B 手机上能装吗?

可以。用 1.25bit 量化版(440MB)配合支持 GGUF 的端侧推理框架运行,适合短文本离线翻译;长文本建议换大模型或用云 API。

Hy-MT2 和用通用大模型翻译有什么区别?

Hy-MT2 是翻译专精模型,支持术语表、文风控制、分隔符保留等翻译指令,同体积下翻译质量更高,但它不会聊天、不会写代码,指令覆盖不可靠。

为什么我的 Hy-MT2 输出里有奇怪的符号?

那是模型的控制符残留(如 ` `),属于已知解码副作用,配置 stop 序列即可过滤。

1.8B 和 7B 差距大吗?

短文本差距不大,1.8B 官方口径甚至超过主流商业 API;但长文本(超过约 1k tokens)1.8B 质量下降明显,整篇文档翻译建议上 7B 或 30B-A3B。

评论 (0)

?
0/1

还没有评论,来发第一条吧

网站上的服务均为第三方提供,
请用户注意自行甄别。

北京酷讯互动科技有限公司

备案京ICP备2024094994号-29

© 2026 AI345 · All Rights Reserved

用户服务协议·隐私政策