文章预览
本次分享由 内蒙古大学刘瑞研究员 与 字节跳动青年科学家任意 、 香港中文大学(深圳)李海洲教授 合作发表于 ACMMM2024 的对话语音合成大模型工作GPT-Talker《 Generative Expressive Conversational Speech Synthesis 》。 1️⃣ 基于GPT 大模型架构和VITS 合成器提出了可以理解多模态对话上下文的对话语音合成大模型 GPT-Talker。另外,我们探索了三阶段的训练策略,主客观实验证明了方法和模型的有效性。 2️⃣ 该工作构建了一个包含 236个小时的自然对话语音数据集NCSSD,包含录制和爬取两个子集,并且包含中英双语。 欢迎关注项目相关网址: 📍 GPT-Talker github: https://github.com/walker-hyf/GPT-Talker (或者 https://github.com/AI-S2-Lab/GPT-Talker) 📍 NCSSD github: (包含数据处理Pipeline) https://github.com/walker-hyf/NCSSD (或者 https://github.com/AI-S2-Lab/NCSSD) 📍 NCSSD Hugging Face: https://huggingface.co/data
………………………………