LogoAIRosetta

智谱AI开源GLM-TTS:3秒语音样本即实现高保真声音克隆,TTS技术迈入情感时代

IThome

Summary智谱AI于2025年12月11日开源发布工业级TTS系统GLM-TTS,3秒语音样本即可克隆音色、语调与情感。采用两阶段生成与多奖励强化学习,支持中英混合、流式推理与方言克隆,已在Hugging Face等平台开放并迅速获得社区关注,助力教育、有声书与智能客服等场景落地。

2025年12月12日(综合智谱AI官网、IT之家、OSCHINA等)在语音合成技术迅猛演进的当下,智谱AI(Zhipu AI)于12月11日重磅发布工业级文本转语音(TTS)系统GLM‑TTS,并同步开源模型权重与推理代码。这一创新产品只需3秒语音样本,即可精准克隆用户的音色、语调和说话习惯,生成自然流畅、富有情感的语音输出。GLM‑TTS的亮相,不仅标志着中国AI企业在TTS领域的开源突破,还为教育、有声内容和智能客服等场景注入新活力。智谱AI创始人唐杰在发布会上表示:“GLM‑TTS不是简单的‘会说话’,而是让AI‘会表达’⁠—⁠⁠—⁠在合适的情境下,传递真实情感。” 该系统已在Hugging Face和ModelScope平台开放,迅速吸引开发者社区关注,GitHub仓库24小时内星标破万。

发布背景:从GLM系列到语音生态的闭环

智谱AI作为清华大学产学研合作的典范,自2022年推出ChatGLM‑6B以来,已构建起完整的GLM大模型家族,包括GLM‑4系列的多模态模型和GLM‑ASR语音识别系统。 GLM‑TTS的发布,正是这一生态的“语音输出”一环,旨在解决传统TTS模型在情感表达和音色还原上的瓶颈。不同于早期依赖海量数据训练的系统,GLM‑TTS强调“少样本高效”,只需3秒参考音频,即可实现零样本语音克隆⁠—⁠⁠—⁠这在开源领域属首次大规模落地。

发布时机契合行业热点。2025年,全球TTS市场规模预计超150亿美元,同比增长25%,但开源模型仍以英文为主导,中文情感合成落后。 智谱AI选择开源GLM‑TTS,遵循Apache 2.0许可,旨在推动社区协作,同时抢占国产AI语音高地。官方数据显示,该系统上线智谱开放平台(bigmodel.cn)、智谱清言App和Z.ai后,首日API调用量破10万次。 与此同时,智谱还同步开源GLM‑ASR,形成“识别+合成”闭环,进一步强化其在语音大模型领域的竞争力。

技术架构:两阶段生成+多奖励强化学习

GLM‑TTS的核心在于创新架构与训练策略,彻底颠覆传统TTS的“端到端”局限。系统采用两阶段生成范式:第一阶段通过大型语言模型(LLM)将文本转换为语义Token序列,确保内容准确性和上下文连贯;第二阶段利用Conditional Flow‑Matching扩散模型预测梅尔频谱图,并经2D‑Vocos声码器重建高质量波形。 这种“语义建模+声学重建”的设计,不仅降低了计算复杂度,还支持流式推理⁠—⁠⁠—⁠首帧响应延迟低至400ms以内,适用于实时交互场景。

关键突破在于训练中的多奖励强化学习(RL)。传统TTS多停留在监督微调(SFT)阶段,易导致“机器人式”输出。GLM‑TTS引入基于GRPO(Generalized Reward‑Pretrained Optimization)框架的多维度奖励机制,包括字符错误率(CER)、音色相似度(SIM)、情感表达(Emotion)和副语言(如笑声、停顿)等。 通过动态采样和梯度裁剪,模型在保持可控性的前提下,提升了表达力和鲁棒性。值得一提的是,整个预训练仅需10万小时数据(远低于行业主流的数百万小时),单机4天即可完成;精品音色LoRA微调和RL阶段也仅需1天。 此外,Phoneme‑in技术通过动态词典和混合输入,实现多音字、生僻字的精准发音控制,支持方言克隆和情感切换。

Hugging Face上的模型卡显示,GLM‑TTS支持中英文混合、多风格朗读(如新闻、故事)和参数动态调节(语速、音量、情感强度)。 开发者可通过GitHub仓库(github.com/zai‑org/GLM‑TTS)快速部署,支持主流框架如PyTorch。

性能领先:开源SOTA,双重指标碾压商用

在基准测试中,GLM‑TTS展现出压倒性优势。以开源评测为例,其字错误率(CER)仅0.89%,音色相似度(SIM)达76.4%,远超Seed‑TTS(CER 1.12%,SIM 79.6%但不开源)。 在情感表达上,GLM‑TTS RL变体实现“双SOTA”:情感准确率提升20%,整体MOS(主观意见分)高于商用模型,且以更低成本获得。 53AI实测显示,3秒克隆后,模型能完美复刻语气词(如“哎呀”)和情绪转折,甚至在长句中保持韵律自然。

相比国际竞品如Google的WaveNet或OpenAI的TTS‑1,GLM‑TTS在中文支持上更优:跨语种克隆效果强,轻口音还原率达95%以上。 OSCHINA评测指出,其流式接口在低延迟场景(如智能音箱)下,合成质量领先开源同类20%。 这些性能得益于智谱的“高效训练”哲学:LoRA微调仅调整15%参数,即实现全参数级音色定制,降低企业落地门槛。

开源生态与应用落地:从Demo到生产级

GLM‑TTS的开源策略极具前瞻性。模型权重、推理脚本和示例项目已在Hugging Face(huggingface.co/zai‑org/GLM‑TTS)和ModelScope同步发布,用户可一键下载。 智谱开放平台提供API接口,支持非流式(完整文本合成)和流式(实时输出)调用,计费灵活(按字符或QPS)。在线体验入口包括Z.ai的audio.z.ai(上传文本/语音Prompt生成专属声音)和智谱清言App(对话中多风格朗读)。

应用场景广阔:在教育评测中,GLM‑TTS可模拟师生互动,提升口语练习真实感;有声书领域,支持情感配音,缩短制作周期50%;客服系统则实现个性化回应,减少人工成本。 智谱已与多家企业合作,如汽车交互系统(News18a报道,GLM‑TTS或重塑车载语音)。 未来,结合GLM‑4‑Voice的端到端语音大模型,GLM‑TTS将扩展至实时对话和虚拟主播。

市场影响:国产TTS加速全球化

GLM‑TTS的开源,将加速TTS技术的民主化。IDC预测,2026年全球语音AI市场将达300亿美元,中国份额超30%。 作为国产代表,智谱此举不仅降低开发者门槛,还推动伦理规范:官方强调数据隐私保护,克隆需用户授权。 然而,挑战在于Deepfake风险,智谱计划引入水印机制。

GLM‑TTS的发布,预示TTS从“工具”向“伙伴”转型。智谱AI表示,将持续迭代,支持更多方言和多模态融合。开发者社区已反馈热烈:一位Hugging Face用户称,“3秒克隆太神奇,立即集成到我的有声App中。” 在AI语音赛道,中国力量正加速弯道超车,GLM‑TTS或成下一个开源标杆。

▶️ 喜欢这篇内容?创作真的很辛苦!

欢迎关注我们的 YouTube 频道:
AI Rosetta

你的点赞、订阅和分享,是对我们最大的支持!🙏

更多AI新闻请访问: https://www.airosetta.com

CopyrightStatement

Comment

Please login before commenting

NoComments

RelatedNews

LoadingMore

智谱AI开源GLM-TTS:3秒语音样本即实现高保真声音克隆,TTS技术迈入情感时代 - Airosetta News