%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20none;%20}%20.st1%20{%20fill:%20%235ce6cf;%20}%20.st2%20{%20fill:%20%230080ff;%20}%20.st3%20{%20clip-path:%20url(%23clippath);%20}%20%3c/style%3e%3cclipPath%20id='clippath'%3e%3crect%20class='st0'%20y='0'%20width='120'%20height='32'/%3e%3c/clipPath%3e%3c/defs%3e%3cg%20class='st3'%3e%3cg%3e%3cpath%20class='st1'%20d='M22.4,32H3.2c-1,0-2-.5-2.6-1.4-.6-.9-.7-2-.4-2.9L9.8,2.1C10.3.8,11.5,0,12.8,0s2.5.8,3,2.1l9.6,25.6c.4,1,.2,2.1-.4,2.9-.6.9-1.6,1.4-2.6,1.4ZM7.8,25.6h10l-5-13.3-5,13.3Z'/%3e%3cpath%20class='st2'%20d='M33.6,32c-1.3,0-2.5-.8-3-2.1L21,4.3c-.6-1.7.2-3.5,1.9-4.1,1.7-.6,3.5.2,4.1,1.9l9.6,25.6c.6,1.7-.2,3.5-1.9,4.1-.4.1-.8.2-1.1.2h0Z'/%3e%3cpath%20d='M71.8,9.1h-6.9v4.6h6.9c2.5,0,4.6,2,4.6,4.6h-6.9c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h2.3c1.7,0,3.2-.4,4.6-1.2v1.2h4.6v-13.7c0-5-4.1-9.1-9.1-9.1h0ZM71.8,27.4h-2.3c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h6.9c0,2.5-2,4.6-4.6,4.6h0Z'/%3e%3cpath%20d='M52.3,9.1h-4.6V0h-4.6V32h9.1c5,0,9.1-4.1,9.1-9.1v-4.6c0-5.1-4.1-9.1-9.1-9.1h0ZM56.9,22.9c0,2.5-2,4.6-4.6,4.6h-4.6v-13.7h4.6c2.5,0,4.6,2,4.6,4.6v4.6h0Z'/%3e%3cpath%20d='M110.9,13.7h9.1v-4.6h-9.1c-5.1,0-9.1,4.1-9.1,9.1v4.6c0,5.1,4.1,9.1,9.1,9.1h9.1v-4.6h-9.1c-2.5,0-4.6-2-4.6-4.6h13.7v-4.6h-13.7c0-2.5,2-4.6,4.6-4.6h0Z'/%3e%3cpath%20d='M93.6,18.3h-4.6c-1.3,0-2.3-1-2.3-2.3s1-2.3,2.3-2.3h10.3v-4.6h-10.3c-3.8,0-6.9,3.1-6.9,6.9s3.1,6.9,6.9,6.9h4.6c1.3,0,2.3,1,2.3,2.3s-1,2.3-2.3,2.3h-10.3v4.6h10.3c3.8,0,6.9-3.1,6.9-6.9s-3.1-6.9-6.9-6.9Z'/%3e%3c/g%3e%3c/g%3e%3c/svg%3e)
简介
Goldfish 是一种为理解任意长度视频而设计的方法论。它通过高效的检索机制，首先收集与指令相关的前k个视频片段，然后提供所需的响应。这种设计使得Goldfish能够有效处理任意长的视频序列，适用于电影或电视剧等场景。为了促进检索过程，开发了MiniGPT4-Video，该模型为视频片段生成详细的描述。Goldfish在长视频基准测试中取得了41.78%的准确率，超过了之前的方法14.94%。此外，MiniGPT4-Video在短视频理解中也表现出色，分别在MSVD、MSRVTT、TGIF和TVQA短视频基准测试中超过了现有最佳方法3.23%、2.03%、16.5%和23.59%。这些结果表明，Goldfish模型在长视频和短视频理解方面都有显著改进。
截图
产品特色
高效检索机制：通过收集与指令相关的前k个视频片段来处理长视频。
MiniGPT4-Video：为视频片段生成详细描述，促进检索过程。
长视频基准测试：在TVQA-long基准测试中取得41.78%的准确率。
短视频基准测试：在MSVD、MSRVTT、TGIF和TVQA短视频基准测试中表现出色。
视频描述生成：使用EVA-CLIP获取视觉标记，并将它们转换为语言模型空间。
字幕与视频帧结合：通过结合视频帧和对齐的字幕提升模型性能。
适应性：能够处理电影或电视剧等长视频序列。
使用教程
1. 将长视频分解为多个片段。
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%230080ff;%20}%20%3c/style%3e%3c/defs%3e%3cpath%20class='st0'%20d='M16.2,11.1c.4.5.4,1.2,0,1.8l-4.7,7.1h-3.8l5.3-8L7.6,4h3.8l4.7,7.1Z'/%3e%3c/svg%3e)
2. 使用Video Descriptor（如MiniGPT4-Video）为每个片段生成描述。
3. 根据用户查询，检索与指令最相关的片段。
4. 将检索到的片段信息发送到答案模块，获取最终答案。
5. 通过EVA-CLIP获取每个帧的视觉标记。
6. 将视觉标记与字幕文本标记结合，生成语言模型空间的标记。
7. 将生成的标记输入到语言模型中，进行进一步处理和分析。
8. 利用生成的描述和分析结果，进行视频内容的理解和应用。
流量来源
| 直接访问 | 40.82% | 外链引荐 | 26.46% | 邮件 | 0.04% |
| 自然搜索 | 8.41% | 社交媒体 | 23.30% | 展示广告 | 0.97% |
最新流量情况
月访问量
1569
平均访问时长
9.12
每次访问页数
1.13
跳出率
55.10%
总流量趋势图
地理流量分布情况
美国
100.00%
地理流量分布全球图
同类开源产品
Lookie
Lookie是一个旨在帮助用户快速吸收和总结YouTube视频内容的工具。
AI视频摘要#视频摘要
Video Search
优质新品
Video Search 本地视频搜索是一款专为Mac用户设计的视频内容检索工具，它利用苹果原生能力在本地环境中运行，无需联网即可实现视频内容的快速检索。
AI视频搜索#OCR技术
Goldfish
Goldfish 是一种为理解任意长度视频而设计的方法论。
AI视频搜索#长视频处理
CTRL F VIDEO
CTRL-F-VIDEO 是一个开源项目，通过Chrome扩展实现在YouTube视频中搜索特定单词或短语的功能。
AI视频搜索#生产力工具
Better Youtube Summary Server
better-youtube-summary-server是一个开源的Chrome浏览器插件,它可以智能分析和总结YouTube视频的内容,生成文字摘要,帮助用户更快速地获取视频关键信息。
AI视频摘要#视频摘要
Streamrag
StreamRAG是一个开源的视频检索和流媒体代理,使用GPT理解用户的查询意图,并从视频数据库中检索相关视频进行回复。
AI视频搜索#流媒体
Transvribe
Transvribe是一款由Zahid开发的AI视频搜索工具，通过AI嵌入技术，用户可以粘贴YouTube视频链接或搜索热门视频，快速获取视频内容的文字转录。
AI视频搜索#视频
Video LLaVA
Video-LLaVA 是一个用于学习联合视觉表示的模型，通过对齐前投影进行训练。
AI视频搜索#视觉理解
Youtube AI
YouTube是全球最大的视频分享和发布平台。
AI视频搜索#分享
替代品
Goldfish
Goldfish 是一种为理解任意长度视频而设计的方法论。
AI视频搜索#长视频处理
CTRL F VIDEO
CTRL-F-VIDEO 是一个开源项目，通过Chrome扩展实现在YouTube视频中搜索特定单词或短语的功能。
AI视频搜索#生产力工具
Better Youtube Summary Server
better-youtube-summary-server是一个开源的Chrome浏览器插件,它可以智能分析和总结YouTube视频的内容,生成文字摘要,帮助用户更快速地获取视频关键信息。
AI视频摘要#视频摘要
Streamrag
StreamRAG是一个开源的视频检索和流媒体代理,使用GPT理解用户的查询意图,并从视频数据库中检索相关视频进行回复。
AI视频搜索#流媒体
Transvribe
Transvribe是一款由Zahid开发的AI视频搜索工具，通过AI嵌入技术，用户可以粘贴YouTube视频链接或搜索热门视频，快速获取视频内容的文字转录。
AI视频搜索#视频
Video Summarize
video_summarize是一个基于GPT模型的视频内容智能总结工具。
AI视频摘要#内容生成
精选AI产品推荐
Nocode
中文精选
NoCode 是一款无需编程经验的平台，允许用户通过自然语言描述创意并快速生成应用，旨在降低开发门槛，让更多人能实现他们的创意。
开发平台#应用开发
912
Listenhub
优质新品
ListenHub 是一款轻量级的 AI 播客生成工具，支持中文和英语，基于前沿 AI 技术，能够快速生成用户感兴趣的播客内容。
音频生成#AI
348
Lovart
国外精选
Lovart 是一款革命性的 AI 设计代理，能够将创意提示转化为艺术作品，支持从故事板到品牌视觉的多种设计需求。
AI设计工具#创意工具
1,128
Fastvlm
FastVLM 是一种高效的视觉编码模型，专为视觉语言模型设计。
AI模型#图像处理开源
564
Smart PDFs
国外精选
Smart PDFs 是一个在线工具，利用 AI 技术快速分析 PDF 文档，并生成简明扼要的总结。
文章摘要#AI
984
Keysync
KeySync 是一个针对高分辨率视频的无泄漏唇同步框架。
视频编辑#视频处理开源
480
Anyvoice
AnyVoice是一款领先的AI声音生成器，采用先进的深度学习模型，将文本转换为与人类无法区分的自然语音。
音频生成#文本转语音
26.38k
Liblibai
中文精选
LiblibAI是一个中国领先的AI创作平台,提供强大的AI创作能力,帮助创作者实现创意。
AI模型#图像生成
344.42k