闲社服务运行正常AI智能体自动化平台

speech_rdino_ecapa_tdnn_sv_zh-cn_3dspeaker_16k

iic/speech_rdino_ecapa_tdnn_sv_zh-cn_3dspeaker_16k

发布机构iic

下载访问条件魔搭来源

3D-Speaker RDINO 说话人识别模型 RDINO模型是基于时延神经网络构建的自监督说话人模型,可用于说话人确认、说话人日志等任务。 Regularized DINO使用使用teacher-student模型结构,通过最大化同一语句中不同增强片段的特征分布相似性,自监督地获取说话人特征,同时使用多样性正则和冗余度消除正则缓解训练中存在的模型坍塌问题。

语音音频
模型详情

模型介绍

中文整理

3D-Speaker RDINO 说话人识别模型

RDINO模型是基于时延神经网络构建的自监督说话人模型,可用于说话人确认、说话人日志等任务。

模型简述

Regularized DINO使用使用teacher-student模型结构,通过最大化同一语句中不同增强片段的特征分布相似性,自监督地获取说话人特征,同时使用多样性正则和冗余度消除正则缓解训练中存在的模型坍塌问题。

更详细的信息见

ERes2Net论文:Pushing the limits of self-supervised speaker verification using regularized distillation framework

3D-Speaker论文:3D-Speaker: A Large-Scale Multi-Device, Multi-Distance, and Multi-Dialect Corpus for Speech Representation Disentanglement

github项目地址:3D-Speaker

训练数据

本模型使用开源数据集3D-Speaker数据集进行无标签训练,包含约10k个说话人,可以对16k采样率的中文音频进行识别。

模型效果评估

在3D-Speaker中文测试集:Cross Device, Cross-Distance, Cross-Dialect中EER评测结果如下:

Model Params Cross-Device Cross-Distance Cross-Dialect

:-----: :------: :------: :------: :------:

RDINO 45.44M 20.41% 21.92% 25.53%

在线体验 开发中...

在页面右侧,可以在“在线体验”栏内看到我们预先准备好的示例音频,点击播放按钮可以试听,点击“执行测试”按钮,会在下方“测试结果”栏中显示相似度得分(范围为[-1,1])和是否判断为同一个人。如果您想要测试自己的音频,可点“更换音频”按钮,选择上传或录制一段音频,完成后点击执行测试,识别内容将会在测试结果栏中显示。

在Notebook中体验

训练和测试自己的RDINO模型

本项目已在3D-Speaker开源了训练、测试和推理代码,使用者可按下面方式下载安装使用:

运行RDINO在3D-Speaker数据集上的训练脚本

使用本预训练模型快速提取embedding

相关论文以及引用信息

如果你觉得这个该模型有所帮助,请引用下面的相关的论文

3D-Speaker 开发者社区钉钉群

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部