模型介绍
中文整理3D-Speaker ERes2Net-Base 说话人识别模型
ERes2Net模型结合全局特征和局部特征,从而提高说话人识别性能。局部特征融合将一个单一残差块内的特征融合提取局部信号;全局特征融合使用不同层级输出的不同尺度声学特征聚合全局信号。ERes2Net-Base是参数量较小的ERes2Net模型,可实现快速训练和推理,在参数量为4.6M的条件下,在开源中文测试集CN-Celeb中,EER=7.05%, MinDCF=0.398。
模型简述
ERes2Net局部融合如下图黄色部分所示,使用Attentianal feature fusion阶梯式融合各分组特征来增强局部信息连接,获取更细粒度特征;全局融合如下图绿色部分所示,通过自底向上的全局特征融合来增强说话人信息。
更详细的信息见
ERes2Net论文:An Enhanced Res2Net with Local and Global Feature Fusion for Speaker Verification
3D-Speaker论文:3D-Speaker: A Large-Scale Multi-Device, Multi-Distance, and Multi-Dialect Corpus for Speech Representation Disentanglement
github项目地址:3D-Speaker
训练数据
本模型使用开源数据集CN-Celeb数据集进行训练,包含约1136个说话人,可以对16k采样率的中文音频进行识别。
模型效果评估
在CN-Celeb测试集中EER评测结果如下:
Model Params EER(%) MinDCF
:-----: :------: :------: :------:
ECAPA-TDNN 20.8M 8.01 0.445
ERes2Net Base 4.6M 7.05 0.398
在线体验 开发中...
在页面右侧,可以在“在线体验”栏内看到我们预先准备好的示例音频,点击播放按钮可以试听,点击“执行测试”按钮,会在下方“测试结果”栏中显示相似度得分(范围为[-1,1])和是否判断为同一个人。如果您想要测试自己的音频,可点“更换音频”按钮,选择上传或录制一段音频,完成后点击执行测试,识别内容将会在测试结果栏中显示。
在Notebook中体验
训练和测试自己的ERes2Net-Base模型
本项目已在3D-Speaker开源了训练、测试和推理代码,使用者可按下面方式下载安装使用:
运行ERes2Net在VoxCeleb集上的训练脚本
使用本预训练模型快速提取embedding
相关论文以及引用信息
如果你觉得这个该模型有所帮助,请引用下面的相关的论文
3D-Speaker 开发者社区钉钉群
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
