FLOAT
目标受众为需要生成逼真说话人像视频的开发者、研究人员和内容创作者。FLOAT因其高效的运动设计和情感增强功能,特别适合需要在视频中融入自然表情和情感的专业人士。
总访问量: 2,062
占比最多地区: US(52.37%)
888
简介
FLOAT是一种音频驱动的人像视频生成方法,它基于流匹配生成模型,将生成建模从基于像素的潜在空间转移到学习到的运动潜在空间,实现了时间上一致的运动设计。该技术引入了基于变换器的向量场预测器,并具有简单而有效的逐帧条件机制。此外,FLOAT支持语音驱动的情感增强,能够自然地融入富有表现力的运动。广泛的实验表明,FLOAT在视觉质量、运动保真度和效率方面均优于现有的音频驱动说话人像方法。
截图
产品特色
- 音频驱动的人像视频生成:使用单个人像图像和驱动音频合成说话人像视频。
- 运动潜在空间编码:通过运动潜在自编码器将给定的人像图像编码为身份-运动潜在表示。
- 流匹配生成:通过流匹配(具有最优传输轨迹)生成音频条件的说话人像运动潜在。
- 情感增强:支持语音驱动的情感标签,提供情感感知的说话人像运动生成的自然方法。
- 情感重定向:在推理阶段可以重定向说话人像的情感,通过简单的独热情感标签进行操作。
- 与最新技术的比较:与非扩散基础方法和扩散基础方法进行比较,展示FLOAT的优势。
- 消融研究:对逐帧AdaLN(和门控)和流匹配进行消融研究,验证其效果。
- 不同数量的功能评估(NFEs):展示少量NFEs对时间一致性的影响,并展示FLOAT在大约10 NFEs下生成合理视频结果的能力。
使用教程
1. 访问FLOAT项目页面并下载相关代码。
2. 准备单个人像图像和相应的驱动音频。
3. 根据文档说明,配置音频条件和情感标签。
4. 运行FLOAT模型,生成说话人像运动潜在。
5. 通过流匹配生成具有时间一致性的视频。
6. 调整情感重定向和NFEs以优化视频结果。
7. 导出并查看生成的逼真说话人像视频。
流量来源
直接访问46.33%外链引荐34.06%邮件0.34%
自然搜索10.42%社交媒体7.93%展示广告0.64%
最新流量情况
月访问量
1898
平均访问时长
0.00
每次访问页数
1.01
跳出率
46.95%
总流量趋势图
地理流量分布情况
美国
52.37%
俄罗斯
47.63%
地理流量分布全球图
同类开源产品
AI Dance Generator
VideoPlus.ai是一款AI舞蹈生成器,利用AI技术快速生成引人注目的舞蹈视频,用户可定制舞蹈风格、人物和主题,无水印,适用于舞蹈爱好者、社交媒体影响者等。
视频生成#AI
Dmind
DMind-1 和 DMind-1-mini 是针对 Web3 任务的领域专用大型语言模型,提供比其他通用模型更高的领域准确性、指令跟随能力及专业理解。
AI模型#人工智能
Veo3video
Veo3 Video是一款利用Google Veo3模型生成高质量视频的平台。
视频生成#AI技术
Veo3
Veo 3是最新的AI视频生成工具,可添加音效、对话和环境噪音,将您的故事栩栩如生。
视频生成#AI
Veo 3
国外精选
Veo 3 是最新的视频生成模型,旨在通过更高的现实主义和音频效果,提供 4K 输出,能更准确地遵循用户的提示。
视频生成#深度学习
Flow AI
Flow 是一个为创作者打造的 AI 电影制作工具,利用 Google DeepMind 的先进模型,用户可以轻松创建出色的电影片段、场景和故事。
视频生成#视频制作
Index AniSora
优质新品
Index-AniSora是由B站开源的顶尖动画视频生成模型,基于AniSora技术实现,支持多种二次元风格视频镜头的一键生成,如番剧、国创、漫改动画、VTuber、动画PV和鬼畜动画等。
视频生成
Fastvlm
FastVLM 是一种高效的视觉编码模型,专为视觉语言模型设计。
AI模型#图像处理
Hunyuancustom
中文精选
HunyuanCustom 是一个多模态定制视频生成框架,旨在根据用户定义的条件生成特定主题的视频。
视频生成#多模态