ACE-Step – ACE Studio携手阶跃星辰共同研发开源音乐生成基础模型

ACE-Step是什么

ACE-Step 是 ACE Studio 和 StepFun 联合推出的开源音乐生成基础模型，基于创新的架构设计实现高效、连贯且可控的音乐创作。ACE-Step结合扩散模型、深度压缩自编码器（DCAE）和轻量级线性变换器，能在短时间内生成高质量的音乐作品，速度比传统 LLM 模型快 15 倍。ACE-Step 支持多种音乐风格、语言和可控性功能，为音乐创作提供强大的工具。ACE-Step适用于快速生成音乐，作为基础模型支持多种音乐创作子任务，助力音乐人、制作人和内容创作者实现高效创作。

ACE-Step的主要功能

快速合成：在短时间内生成高质量的音乐，例如在 A100 GPU 上生成 4 分钟的音乐仅需 20 秒。
多样化风格：支持多种主流音乐风格（如流行、摇滚、电子、爵士等）和多种语言的歌词生成。
变体生成：调整噪声比例生成不同变体，提供多样化的音乐选择。
重绘功能：对特定部分重新生成，修改风格、歌词或人声，保留其他元素。
歌词编辑：支持对生成的音乐进行局部歌词修改，同时保持旋律和伴奏不变。
多语言支持：：支持 19 种语言，其中英语、中文、俄语、西班牙语、日语等 10 种语言表现尤为出色。
Lyric2Vocal：基于 LoRA 微调直接从歌词生成人声音频。
Text2Samples：生成音乐样本和循环，帮助制作人快速创建乐器循环、音效等。

ACE-Step的技术原理

扩散模型（Diffusion Model）：基于逐步去除噪声生成数据。模型能快速合成音乐，传统扩散模型在长结构连贯性上存在不足。ACE-Step 基于创新的架构设计解决这一问题。
深度压缩自编码器：DCAE 用在高效的数据压缩和解压缩，保留音乐的细粒度音频细节，减少计算资源的消耗。
轻量级线性变换器：用在处理音乐的序列信息，确保生成的音乐在旋律、和声和节奏上具有连贯性。
语义对齐：ACE-Step 用 MERT（Music Embedding Representation）和 m-hubert 技术，在训练过程中对齐语义表示（REPA），实现快速收敛和高质量的生成效果。
训练优化：基于训练时的语义对齐和优化技术，ACE-Step 能在短时间内生成高质量的音乐，保持生成速度和连贯性之间的平衡。