Whisper Diarization
Whisper Diarization
该产品适用于需要进行自动语音识别和说话人分割的开发者和研究人员,特别是在处理多说话人音频文件时,能够显著提高转录和分割的准确性。
总访问量: 474,564,576
占比最多地区: US(19.34%)
1,584
简介
whisper-diarization是一个结合了Whisper自动语音识别(ASR)能力、声音活动检测(VAD)和说话人嵌入技术的开源项目。它通过提取音频中的声音部分来提高说话人嵌入的准确性,然后使用Whisper生成转录文本,并通过WhisperX校正时间戳和对齐,以减少由于时间偏移导致的分割错误。接着,使用MarbleNet进行VAD和分割以排除静音,TitaNet用于提取说话人嵌入以识别每个段落的说话人,最后将结果与WhisperX生成的时间戳关联,基于时间戳检测每个单词的说话人,并使用标点模型重新对齐以补偿小的时间偏移。
截图
产品特色
结合Whisper ASR进行高质量的语音转录
使用声音活动检测(VAD)技术排除静音
利用说话人嵌入技术进行说话人识别
通过WhisperX校正和对齐时间戳
使用标点模型优化转录文本的对齐精度
支持批处理推理,提高处理效率
使用教程
1. 确保系统已安装FFMPEG和Cython作为先决条件。
2. 克隆或下载whisper-diarization的代码库。
3. 根据需要修改`diarize.py`和`helpers.py`中的WhisperX和NeMo参数。
4. 使用命令行工具,输入相应的参数和音频文件名来运行模型。
5. 根据系统VRAM容量选择使用`diarize.py`或`diarize_parallel.py`进行处理。
6. 检查输出结果,确保转录和说话人分割的准确性。
7. 如遇问题或需要改进,可在GitHub上提交issue或pull request。
流量来源
直接访问51.61%外链引荐33.46%邮件0.04%
自然搜索12.58%社交媒体2.19%展示广告0.11%
最新流量情况
月访问量
4.92m
平均访问时长
393.01
每次访问页数
6.11
跳出率
36.20%
总流量趋势图
地理流量分布情况
美国
19.34%
中国
13.25%
印度
9.32%
俄罗斯
4.28%
德国
3.63%
地理流量分布全球图
同类开源产品
Podlm Public
podlm-public是一个利用AI技术将URL内容转换成播客并推送到小宇宙平台的项目。
AI音频编辑#自动化转换
Podcastfy
优质新品
Podcastfy是一个开源的Python包,它使用生成式人工智能技术,将网页内容、PDF文件和文本转化为引人入胜的多语言音频对话。
AI音频编辑#huggingface-spaces
Reverb
Reverb 是一个开源的语音识别和说话人分割模型推理代码,使用 WeNet 框架进行语音识别 (ASR) 和 Pyannote 框架进行说话人分割。
AI语音识别#说话人分割
Whisper Large V3 Turbo
优质新品
Whisper large-v3-turbo是OpenAI提出的一种先进的自动语音识别(ASR)和语音翻译模型。
AI语音识别#语音翻译
Realtime API
国外精选
Realtime API 是 OpenAI 推出的一款低延迟语音交互API,它允许开发者在应用程序中构建快速的语音到语音体验。
AI语音识别#低延迟
Multispecies Whale Detection
multispecies-whale-detection 是谷歌开发的一个开源项目,旨在通过神经网络检测和分类不同物种和地理区域的鲸鱼声音。
AI音频编辑#神经网络
Omnisensevoice
OmniSenseVoice是基于SenseVoice优化的语音识别模型,专为快速推理和精确时间戳设计,提供更智能、更快速的音频转录方式。
AI语音识别#时间戳
Pdf To Podcast
pdf-to-podcast是一个基于人工智能技术的生产力工具,能够将PDF文档转换成播客节目。
AI音频编辑#文本到语音
Deepgram Voice Agent API
优质新品
Deepgram Voice Agent API 是一个统一的语音到语音API,它允许人类和机器之间进行自然听起来的对话。
AI语音识别#语音合成
替代品
Podlm Public
podlm-public是一个利用AI技术将URL内容转换成播客并推送到小宇宙平台的项目。
AI音频编辑#自动化转换
Podcastfy
优质新品
Podcastfy是一个开源的Python包,它使用生成式人工智能技术,将网页内容、PDF文件和文本转化为引人入胜的多语言音频对话。
AI音频编辑#huggingface-spaces
Reverb
Reverb 是一个开源的语音识别和说话人分割模型推理代码,使用 WeNet 框架进行语音识别 (ASR) 和 Pyannote 框架进行说话人分割。
AI语音识别#说话人分割
Whisper Large V3 Turbo
优质新品
Whisper large-v3-turbo是OpenAI提出的一种先进的自动语音识别(ASR)和语音翻译模型。
AI语音识别#语音翻译
Multispecies Whale Detection
multispecies-whale-detection 是谷歌开发的一个开源项目,旨在通过神经网络检测和分类不同物种和地理区域的鲸鱼声音。
AI音频编辑#神经网络
Omnisensevoice
OmniSenseVoice是基于SenseVoice优化的语音识别模型,专为快速推理和精确时间戳设计,提供更智能、更快速的音频转录方式。
AI语音识别#时间戳
Pdf To Podcast
pdf-to-podcast是一个基于人工智能技术的生产力工具,能够将PDF文档转换成播客节目。
AI音频编辑#文本到语音
Draw An Audio
Draw an Audio是一个创新的视频到音频合成技术,它通过多指令控制,能够根据视频内容生成高质量的同步音频。
AI音频编辑#视频处理
Crisperwhisper
CrisperWhisper是基于OpenAI的Whisper模型的高级变体,专为快速、准确、逐字的语音识别设计,提供准确的词级时间戳。
AI语音识别#逐字转录