Speech-02 – MiniMax 推出的全新一代高级文本转语音模型,开启语音合成的新纪元

Speech-02是什么

Speech-02 是 MiniMax 推出的新一代文本到语音(TTS)模型。模型基于回归 Transformer 架构,实现零样本语音克隆,仅需几秒参考语音能生成高度相似的目标语音。Flow-VAE 架构增强了语音生成的信息表征能力,提升合成语音的质量和相似度。Speech-02提供两种版本,Speech-02-HD 专为高保真应用设计,如配音和有声读物,能消除节奏不一致问题,保持音质清晰, Speech-02-Turbo 针对实时性能优化,平衡超低延迟与卓越音质,适用于交互式应用。Speech-02模型已在MiniMax Audio平台及MiniMax API平台上线。

Speech-02

Speech-02的主要功能

  • 零样本语音克隆:仅需几秒参考语音,生成高度相似的目标语音。
  • 高质量语音合成:生成自然流畅的语音,支持多种语言和方言。
  • 多语言支持:支持 32 种语言,擅长中英、粤语等语种,可跨语言切换。
  • 个性化语音生成:用户提供示范音频,模型学习后生成个性化语音。
  • 情感控制:支持多种情感(如快乐、悲伤等),基于文字描述指导语音生成。

Speech-02的技术原理

  • 自回归 Transformer 架构:基于自回归 Transformer 架构,生成韵律、语调和整体自然度更好的语音。自回归模型在生成过程中逐个生成语音特征,确保生成的语音更加自然和连贯。
  • 零样本语音克隆:引入可学习的 speaker 编码器,编码器专门学习对合成语音最有用的声音特征,如说话人的独特发音习惯。模型仅需几秒的参考语音生成高度相似的目标语音。
  • Flow-VAE 架构:基于可逆映射变换潜在空间,更准确地捕捉数据中的复杂模式。Flow-VAE 架构能增强语音生成过程中的信息表征能力,提升合成语音的整体质量和相似度。
  • T2V 框架:T2V 框架结合开放式自然语言描述与结构化标签信息,实现高度灵活且可控的音色生成。用户基于文字描述指导模型生成特定音色和情感的语音。

Speech-02的项目地址

  • 项目官网:https://www.minimax.io/news/speech-02-series
  • 技术论文:https://huggingface.co/spaces/MiniMaxAI/MiniMax-Speech-Tech-Report

Speech-02的应用场景

  • 智能语音助手:为智能设备提供自然流畅的人机交互体验,提升用户满意度。
  • 有声读物与配音:制作高质量的有声读物、广告配音等。
  • 社交媒体与娱乐:在社交媒体、直播、唱聊等场景中,提供个性化语音生成,增强用户互动性和娱乐性。
  • 教育与儿童玩具:应用在教育学习机、儿童玩具等,提供更加生动有趣的学习体验。
  • 智能硬件集成:与智能音箱、汽车智能座舱等硬件设备集成,提升设备的智能化水平。

发表评论