简介
speech-to-speech 是一个开源的模块化GPT4-o项目,通过语音活动检测、语音转文本、语言模型和文本转语音等连续部分实现语音到语音的转换。它利用了Transformers库和Hugging Face hub上可用的模型,提供了高度的模块化和灵活性。
截图

产品特色
语音活动检测(VAD):使用silero VAD v5。
语音转文本(STT):使用Whisper模型,包括蒸馏版本。
语言模型(LM):可以在Hugging Face Hub上选择任何可用的指令模型。
文本转语音(TTS):使用Parler-TTS,支持不同的检查点。
模块化设计:每个组件都作为类实现,可以根据特定需求进行重新实现。
支持服务器/客户端方法和本地方法运行。
使用教程
克隆仓库到本地环境。
安装所需的依赖。
根据需要配置模型参数和生成参数。
选择运行方式:服务器/客户端方法或本地方法。
如果是服务器/客户端方法,先在服务器上运行模型,然后在客户端处理音频输入和输出。
如果是本地方法,使用回环地址运行。
利用Torch Compile优化Whisper和Parler-TTS的性能。
通过命令行使用模型,指定不同的参数来控制不同部分的行为。
流量来源
直接访问 | 51.61% | 外链引荐 | 33.46% | 邮件 | 0.04% |
自然搜索 | 12.58% | 社交媒体 | 2.19% | 展示广告 | 0.11% |
最新流量情况
月访问量
4.92m
平均访问时长
393.01
每次访问页数
6.11
跳出率
36.20%
总流量趋势图
地理流量分布情况
美国
19.34%
中国
13.25%
印度
9.32%
俄罗斯
4.28%
德国
3.63%
地理流量分布全球图
同类开源产品

Finevoice
FineVoice是一个多功能的AI配音平台,它使用先进的人工智能技术,为用户提供逼真的个性化语音服务。
AI语音合成#文本转语音

Reverb
Reverb 是一个开源的语音识别和说话人分割模型推理代码,使用 WeNet 框架进行语音识别 (ASR) 和 Pyannote 框架进行说话人分割。
AI语音识别#说话人分割

Whisper Large V3 Turbo
优质新品
Whisper large-v3-turbo是OpenAI提出的一种先进的自动语音识别(ASR)和语音翻译模型。
AI语音识别#语音翻译

Realtime API
国外精选
Realtime API 是 OpenAI 推出的一款低延迟语音交互API,它允许开发者在应用程序中构建快速的语音到语音体验。
AI语音识别#低延迟

Llama 3.2 3b Voice
Llama 3.2 3b Voice 是基于Hugging Face平台的一款语音合成模型,能够将文本转换为自然流畅的语音。
AI语音合成#自然语言处理

Ebook2audiobookxtts
ebook2audiobookXTTS是一个利用Calibre和Coqui TTS技术将电子书转换为有声书的模型,支持章节和元数据的保留,并且可以选择使用自定义语音模型进行语音克隆,支持多种语言。
AI语音合成#linux

Omnisensevoice
OmniSenseVoice是基于SenseVoice优化的语音识别模型,专为快速推理和精确时间戳设计,提供更智能、更快速的音频转录方式。
AI语音识别#时间戳

Deepgram Voice Agent API
优质新品
Deepgram Voice Agent API 是一个统一的语音到语音API,它允许人类和机器之间进行自然听起来的对话。
AI语音识别#语音合成

Seed Vc
seed-vc 是一个基于 SEED-TTS 架构的声音转换模型,能够实现零样本的声音转换,即无需特定人的声音样本即可转换声音。
AI语音合成#零样本学习
替代品

Reverb
Reverb 是一个开源的语音识别和说话人分割模型推理代码,使用 WeNet 框架进行语音识别 (ASR) 和 Pyannote 框架进行说话人分割。
AI语音识别#说话人分割

Whisper Large V3 Turbo
优质新品
Whisper large-v3-turbo是OpenAI提出的一种先进的自动语音识别(ASR)和语音翻译模型。
AI语音识别#语音翻译

Llama 3.2 3b Voice
Llama 3.2 3b Voice 是基于Hugging Face平台的一款语音合成模型,能够将文本转换为自然流畅的语音。
AI语音合成#自然语言处理

Ebook2audiobookxtts
ebook2audiobookXTTS是一个利用Calibre和Coqui TTS技术将电子书转换为有声书的模型,支持章节和元数据的保留,并且可以选择使用自定义语音模型进行语音克隆,支持多种语言。
AI语音合成#linux

Omnisensevoice
OmniSenseVoice是基于SenseVoice优化的语音识别模型,专为快速推理和精确时间戳设计,提供更智能、更快速的音频转录方式。
AI语音识别#时间戳

Seed Vc
seed-vc 是一个基于 SEED-TTS 架构的声音转换模型,能够实现零样本的声音转换,即无需特定人的声音样本即可转换声音。
AI语音合成#零样本学习

Optispeech
OptiSpeech是一个高效、轻量级且快速的文本到语音模型,专为设备端文本到语音转换设计。
AI语音合成#深度学习

Crisperwhisper
CrisperWhisper是基于OpenAI的Whisper模型的高级变体,专为快速、准确、逐字的语音识别设计,提供准确的词级时间戳。
AI语音识别#逐字转录

Seed ASR
优质新品
Seed-ASR是由字节跳动公司开发的基于大型语言模型(Large Language Model, LLM)的语音识别模型。
AI语音识别#大型语言模型
精选AI产品推荐

Nocode
中文精选
NoCode 是一款无需编程经验的平台,允许用户通过自然语言描述创意并快速生成应用,旨在降低开发门槛,让更多人能实现他们的创意。
开发平台#应用开发
912

Listenhub
优质新品
ListenHub 是一款轻量级的 AI 播客生成工具,支持中文和英语,基于前沿 AI 技术,能够快速生成用户感兴趣的播客内容。
音频生成#AI
348

Lovart
国外精选
Lovart 是一款革命性的 AI 设计代理,能够将创意提示转化为艺术作品,支持从故事板到品牌视觉的多种设计需求。
AI设计工具#创意工具
1,128

Fastvlm
FastVLM 是一种高效的视觉编码模型,专为视觉语言模型设计。
AI模型#图像处理开源
564

Smart PDFs
国外精选
Smart PDFs 是一个在线工具,利用 AI 技术快速分析 PDF 文档,并生成简明扼要的总结。
文章摘要#AI
984

Keysync
KeySync 是一个针对高分辨率视频的无泄漏唇同步框架。
视频编辑#视频处理开源
480

Anyvoice
AnyVoice是一款领先的AI声音生成器,采用先进的深度学习模型,将文本转换为与人类无法区分的自然语音。
音频生成#文本转语音
26.38k

Liblibai
中文精选
LiblibAI是一个中国领先的AI创作平台,提供强大的AI创作能力,帮助创作者实现创意。
AI模型#图像生成
344.42k