AI 模型与产品约 6 分钟

腾讯 AuK 是什么?1.5B 开源语音模型,一句话指令改写音频

AI 指南··◉ 0 浏览

想知道腾讯 AuK 是什么,答案就一句话:它是腾讯混元联合上海交通大学等机构在 2026 年 9 月 9 日开源的 1.5B 语音基础模型,MIT 协议,一句自然语言指令就能做语音生成、内容编辑、语气编辑、人声增强和音轨分离。代码在 GitHub 的 Tencent-Hunyuan/AuK,权重同时发布于 Hugging Face 与 ModelScope。

腾讯 AuK 项目官网首页截图

AuK 是什么:一个模型吃掉五类语音任务

AuK 是 1.5B 参数的基础模型,训练数据来自数百万小时多语种音频。它最大的特点是接口统一:文字转语音、改一句话的内容、把哭腔换成平静语气、从混音里拆伴奏,全都不用换模型,换一句指令就行。

官方提供两个版本:AuK 质量优先,NFE 和 CFG 可调;AuK-Flash 是蒸馏版,固定 4 步推理、CFG=0,速度优先。论文摘要给出的训练规模是约 30.3 亿条指令与音频配对实例、195 万小时有效监督。

它能做的 18 类任务

官方 Cookbook 把所有任务挂在同一套指令接口下,按大类归拢是这样:

大类 代表任务 一句话说明
语音生成 零样本 TTS、指令 TTS 用参考音频的音色说话,或只凭一段音色描述生成语音
内容编辑 语音内容编辑、歌词编辑 替换、插入、删除说的内容,翻唱改词还能保住旋律和音色
声学编辑 音高、语速、音量 按半音调音高,按倍率改语速,按分贝调音量
副语言编辑 情绪、音色、去口音、非语言音、气声转换 换情绪不改内容,去地方口音,删掉或补上呼吸声与笑声
增强与分离 语音增强、语音分离、音乐分离、目标说话人提取 去噪去混响,按说话顺序留一个人,从混音里抽人声或伴奏

对内容团队来说,最实用的是副语言编辑和分离:以前改录音语气要重录、拆伴奏要另找工具,现在都能写成指令批量处理。

腾讯 AuK 支持的任务族与统一指令接口示意

关键数据:速度与显存

官方称 AuK-Flash 在匹配条件下能拿到 4.5 倍墙钟加速,代价是质量略低于基础模型。显存方面,官方在单张 NVIDIA A800-SXM4-80GB 上以 bf16 推理测得峰值如下,单位 GiB:

模型 输入 CPU offload 关 CPU offload 开 节省
AuK 纯文本,1.5 秒输出 24.78 16.75 8.03(32.4%)
AuK 5 秒参考音频 25.00 16.98 8.02(32.1%)
AuK-Flash 纯文本,1.5 秒输出 24.77 16.75 8.02(32.4%)
AuK-Flash 5 秒参考音频 24.97 16.98 7.99(32.0%)

官方口径是 torch.cuda.max_memory_allocated,实际占用随输入长度、精度和硬件变化。

腾讯 AuK 开启与关闭 CPU offload 的显存占用对比图

最近三次更新,对国内用户意味着什么

  1. 2026 年 9 月 13 日加入 Apple Silicon 的 MLX 推理支持,代码在 feat/mlx-apple-silicon 分支,同时给 CUDA 推理加了 CPU offload,Mac 用户有了云 GPU 之外的选项。
  2. 2026 年 9 月 16 日,PR #19 把编码器显存再降约 7.5 GiB,官方说法是让消费级 GPU 的本地推理更可行。
  3. 同期 AuK 被选为 ICASSP 2027 Audio Editing Challenge 单模型赛道的端到端基线,SGLang-Omni 在开源当天完成了支持。

行动指引:想先听效果,直接去 Hugging Face 的 tencent/AuK Space 或 ModelScope 演示空间,不用装环境;想本地跑,优先从 ModelScope 下权重,国内更稳。

本地部署要准备什么

  1. 克隆 Tencent-Hunyuan/AuK 仓库,用 uv 或 conda 建 Python 3.10 的独立环境,按需安装核心推理、gradio、comfyui 或 train 这几组依赖。
  2. 下载三个目录:AuK 基础权重、可选的 AuK-Flash、以及作为 MLLM 编码器的 Qwen2.5-Omni-3B。
  3. 用 auk-infer 跑命令行推理,或用 auk-gradio 起一个网页界面,加上 --cpu_offload 可以进一步压低显存。

有一个坑必须提前知道:权重里的 checkpoint 只包含 diffusion transformer 和 layer-fusion 部分,MLLM 编码器和 VAE 是在运行时从其他文件加载的。所以加载时看到 text_encoder.* 这类 key 缺失属于预期现象,不是下载不完整。环境准备那套流程和站内 腾讯混元 Hy-MT2 的 Ollama 本地部署教程 很接近,可以直接复用。

放在腾讯 AI 产品线里看

2026 年腾讯在 AI 侧的节奏明显加快:编程侧有 CodeBuddy 的三种形态,输入法方向有被曝光的 ChatterFly,通用助手方向有 WorkBuddy。AuK 补的是语音这条线,路线与前几个不同:它是开源权重加开源代码,不是先做商业 SaaS,开发者可以先本地验证效果再决定要不要上生产。

适合谁用,不适合谁

适合要把语音编辑做成批量流程的内容团队,比如短视频配音、播客降噪、批量拆人声;也适合不想把音频上传第三方 API 的团队,以及需要可微调权重的研究者。

不适合只想快速生成一段配音、完全不碰环境的用户;不适合需要稳定 SLA 和商业支持的业务,官方项目页明确写了这是作者维护的独立页面;也不适合显存吃紧又不想用 CPU offload 换速度的小显卡用户。

另外,官方自评的对比图只能当参考,混响、信噪比、说话人相似度这些指标对测试集依赖很大,建议用你自己的素材跑一轮再下结论。

常见问题

腾讯 AuK 是免费的吗?

答:权重和代码以 MIT 协议开源,本地使用免费。官方没有公布托管 API 的定价信息,需要商用支持可以通过项目仓库联系作者。

AuK 和 AuK-Flash 怎么选?

答:要质量选 AuK,NFE 和 CFG 可调;要速度选 AuK-Flash,固定 4 步推理且不用 CFG,官方称匹配条件下有 4.5 倍墙钟加速。实际项目里可以先用 Flash 验证流程,再换基础模型出终版。

最低需要多大显存?

答:官方在 A800 80GB 上测得开启 CPU offload 后峰值约 16.75 GiB,关闭时约 24.78 GiB。9 月 16 日的更新又把编码器显存降了约 7.5 GiB,具体下限建议自行实测。

国内怎么下载权重?

答:官方同时提供 Hugging Face 和 ModelScope 两个渠道,国内推荐走 ModelScope,命令是 modelscope download --model Tencent-Hunyuan/AuK --local_dir ./ckpts/AuK,编码器建议一起下 Qwen2.5-Omni-3B。

评论 (0)

?
0/1

还没有评论,来发第一条吧

网站上的服务均为第三方提供,
请用户注意自行甄别。

北京酷讯互动科技有限公司

备案京ICP备2024094994号-29

© 2026 AI345 · All Rights Reserved

用户服务协议·隐私政策