爱奇艺M2VOC挑战赛6篇论文被ICASSP2021收录,少样本语音克隆取得重要成果
2021-06-11 17:50:36爱云资讯阅读量:1,233
近年来,迁移学习、风格迁移、声码器、声学模型等方面的最新进展,为低资源语音克隆的提供了潜在的解决方案。
爱奇艺联合西北工业大学音频语音与语言处理研究组、新加坡国立大学、清华大学深圳国际研究生院、起源智能、希尔贝壳在ICASSP2021举办了多说话人多风格音色克隆大赛——M2VoC。
M2VoC挑战赛旨在提供一个通用的数据集以及一个公平的测试平台,对语音克隆任务进行研究。作为2021年声学、语音和信号处理国际会议(ICASSP2021)信号处理挑战旗舰任务之一,吸引了多支学术界和工业界的研究人员加入了挑战。
本周,在ICASSP2021峰会上,M2VoC挑战赛顺利落幕,并公布了比赛成果。共153只队伍注册参赛了本次挑战赛,其中有多家学术机构和互联网公司共同参与其中,学术机构包括北京大学,清华大学,浙江大学,上海交通大学,国立台湾大学,哈工大,University of Crete,中科院自动化所,University of Tsukuba,Nagoya University,复旦大学,香港中文大学,中科院大学,电子科技大学等;参与互联网公司包括虎牙,微软,滴滴,腾讯,网易等。
爱奇艺多说话人多风格音色克隆大赛分为少样本赛道和极少样本赛道两大任务。在少样本赛道方面,主办方针对每个说话人提供100句不同说话风格的训练样本;在极少样本赛道方面,主办方针对每个说话人提供5句不同说话风格的训练样本;同时,主办方提供了两个基础库,分别包含5000句不同说话风格的训练样本,供参赛者训练基础模型。最终,主办方经过“说话人相似度、语音质量、风格/表现力、发音准确率”四大标准加权作为比赛评判标准。
针对提交成果,爱奇艺组委会进行了两轮主观评估:第一轮包括所有团队的提交,第二轮则对几个得分最高的团队进行了进一步评估。每个赛道的最终获胜者是根据两轮比赛的综合结果选出的。考虑到在短时间内对质量、风格和相似度进行主观评价的巨大成本,组委会采用了抽样评价方法。第一轮和第二轮主观听力测试分别有66名和30名专业听测人员参加。所有的听测人员都是以汉语为母语,由语言学专业的大学生和专业的语音注释员组成。
图:赛道一提交的MOS
图:赛道二提交的MOS
比赛汇集了业内顶尖团队,作为业内首个多说话人多风格音色克隆比赛,体现了当前业内和学界最高水平。本次挑战赛共收录18篇相关论文,其中,6篇论文被ICASSP2021收录。
本次挑战赛收录的6篇论文下载链接:
https://2021.ieeeicassp.org/Papers/ViewSession.asp?Sessionid=1304
图:ICASSP 2021本次挑战赛收录论文
参赛队伍在Acoustic model、Speaker representation、Vocoder、Speaker adaptation strategy等多个方面都提出了创新,并取得了很好的效果。相关成果应用于APP口播、UGC配音、有声书、风格化语音合成等多个应用场景,能够满足不断变化的声音定制场景,特别是基于多风格低质量语料场景下的声音的定制。
图:各赛道第一轮评估中所有提交的MOS
本次爱奇艺多说话人多风格音色克隆大赛(M2VoC)是世界上第一个小资源音色克隆挑战赛,旨在为语音克隆任务的研究提供一个通用的数据集和一个公平的测试平台。挑战展示了当前语音克隆技术的性能:随着深度学习的进步,少样本语音克隆已经取得了相当好的性能,但单样本语音克隆仍然是一个未解决的问题。在现实世界的语音克隆应用中,低质量(嘈杂)音频和训练/适应/推理的时间/成本限制也是不可忽视的重要因素。
爱奇艺也在ICASSP2021发布了相关论文,总结本次大赛的情况。希望通过本次大赛的成果,为音色克隆、语音识别等前沿技术的创新探索提供更多机会,进一步拓宽人工智能技术的应用空间,为视听行业发展提供新的可能。
相关文章
- 爱奇艺朱梁出席网络视听精品创作峰会 详解影视工业化如何落地多场景“提质增效”
- 爱奇艺·奇遇与京东科技达成战略合作,共创XR数智化新增长
- X-META元宇宙主题乐园与爱奇艺共创元宇宙文娱
- 吾知科技与爱奇艺奇遇VR达成合作,助推数字文化发展
- 爱奇艺朱梁:以科技创新为引擎,探索影视工业化转型之道
- 爱奇艺·奇遇VR年度社交VR游戏《玩美乐派对》开启公测
- 错过618还有818!爱奇艺奇遇VR 爆款机型限时特惠中
- 爱奇艺奇遇VR携手4K花园,构建“VR+超高清”创新数字内容生态
- 爱奇艺奇遇VR上线《码头街机厅》,海量街机游戏来咯!
- 爱奇艺奇遇Dream VR一体机评测 理想照进现实,超沉浸的虚拟世界体验
- VR从未离我这么近:爱奇艺奇遇Dream VR亲测
- 不失重不怕晕,爱奇艺奇遇Dream拉近VR世界
- 爱奇艺·奇遇 Dream VR一体机,轻松体验“身临其境”
- 春节居家必备!爱奇艺奇遇Dream VR一体机给你不一样的娱乐体验
- 爱奇艺VR扔重磅炸弹!千元VR旗舰奇遇Dream能否掀动VR普及风暴
- 引领主流VR价格下探至千元区,爱奇艺奇遇VR的“术”与“道”