简介
OmniParser V2 是微软研究团队开发的一种先进的人工智能模型,旨在将大型语言模型(LLM)转化为能够理解和操作图形用户界面(GUI)的智能代理。该技术通过将界面截图从像素空间转换为可解释的结构化元素,使 LLM 能够更准确地识别可交互图标,并在屏幕上执行预定动作。OmniParser V2 在检测小图标和快速推理方面取得了显著进步,其结合 GPT-4o 在 ScreenSpot Pro 基准测试中达到了 39.6% 的平均准确率,远超原始模型的 0.8%。此外,OmniParser V2 还提供了 OmniTool 工具,支持与多种 LLM 结合使用,进一步推动了 GUI 自动化的发展。
截图

产品特色
将 UI 截图转换为结构化元素,便于 LLM 理解。
检测小图标并准确关联屏幕上的交互区域。
支持与多种 LLM(如 OpenAI、DeepSeek、Qwen 等)结合使用。
提供 OmniTool 工具,加速实验和开发流程。
通过减少图标标题模型的图像大小,降低推理延迟。
使用教程
1. 从 GitHub 下载 OmniParser V2 的代码。
2. 安装 OmniTool 工具,配置所需的 LLM 环境。
3. 使用 OmniParser V2 对 UI 截图进行解析,提取结构化元素。
4. 将解析结果输入到所选的 LLM 中,生成交互指令。
5. 在目标系统中执行生成的指令,完成自动化任务。
流量来源
直接访问 | 56.16% | 外链引荐 | 35.73% | 邮件 | 0.35% |
自然搜索 | 7.04% | 社交媒体 | 0.42% | 展示广告 | 0.29% |
最新流量情况
月访问量
11.87m
平均访问时长
201.04
每次访问页数
3.46
跳出率
44.30%
总流量趋势图
地理流量分布情况
美国
20.76%
日本
7.07%
巴西
5.37%
英国
4.87%
印度
4.28%
地理流量分布全球图
同类开源产品

Propolis
Propoliskey是一款自动化QA工具,利用智能代理模拟真实用户操作,通过探索学习如何使用产品,发现并报告错误和建议。
自动化工作流#智能代理

Dmind
DMind-1 和 DMind-1-mini 是针对 Web3 任务的领域专用大型语言模型,提供比其他通用模型更高的领域准确性、指令跟随能力及专业理解。
AI模型#人工智能

Magentic UI
Magentic-UI 是一个基于多代理系统的研究原型,允许用户通过透明且可控的界面进行网络浏览和任务自动化。
自动化工作流#人机交互

Dropflow
Dropflow是一款能够从转发的电子邮件中提取数据并将其发送到Slack、Trello、Google Sheets、Notion或您自己的API的工具。
自动化工作流#自动化

Vetzi.io
Vetzi.io是一款专为兽医诊所设计的自动化文档记录工具,可以帮助兽医诊所节省时间,并提高患者护理的效率。
自动化工作流#兽医

Velin
Velin是一种AI动力集成产品营销环境(IPME),为现代产品团队提供无缝的产品和客户洞察数据合并,创建顺序广告活动和对齐内容的能力。
自动化工作流#AI

Getinvoice
GetInvoice是一款利用AI技术实现发票和收据自动处理的软件。
自动化工作流#收据提取

Fastvlm
FastVLM 是一种高效的视觉编码模型,专为视觉语言模型设计。
AI模型#图像处理

Scottie
Scottie是一个强大的AI代理构建工具,可以帮助用户在几秒钟内构建能够跨不同渠道工作的AI代理,实现客户互动自动化。
自动化工作流#客户互动
替代品

Magentic UI
Magentic-UI 是一个基于多代理系统的研究原型,允许用户通过透明且可控的界面进行网络浏览和任务自动化。
自动化工作流#人机交互

Fastvlm
FastVLM 是一种高效的视觉编码模型,专为视觉语言模型设计。
AI模型#图像处理

Zerosearch
ZeroSearch 是一种新颖的强化学习框架,旨在激励大型语言模型(LLMs)的搜索能力,而无需与实际搜索引擎进行交互。
AI模型#搜索能力

Notellm
NoteLLM 是一款专注于用户生成内容的可检索大型语言模型,旨在提升推荐系统的性能。
AI模型#多模态处理

Deepseek Prover V2 671B
DeepSeek-Prover-V2-671B 是一个先进的人工智能模型,旨在提供强大的推理能力。
AI模型#开源

Xiaomi MiMo
优质新品
Xiaomi MiMo是小米公司开源的首个推理大模型,专为推理任务设计,具备卓越的数学推理和代码生成能力。
AI模型

Liquid
Liquid 是一个自回归生成模型,通过将图像分解为离散代码并与文本标记共享特征空间,促进视觉理解和文本生成的无缝集成。
AI模型#生成模型

Skywork OR1
优质新品
Skywork-OR1是由昆仑万维天工团队开发的高性能数学代码推理模型。
AI模型#机器学习

Kimi VL
中文精选
Kimi-VL 是一个先进的混合专家视觉语言模型,专为多模态推理、长上下文理解及强大代理能力而设计。
AI模型#推理
精选AI产品推荐

Nocode
中文精选
NoCode 是一款无需编程经验的平台,允许用户通过自然语言描述创意并快速生成应用,旨在降低开发门槛,让更多人能实现他们的创意。
开发平台#应用开发
912

Listenhub
优质新品
ListenHub 是一款轻量级的 AI 播客生成工具,支持中文和英语,基于前沿 AI 技术,能够快速生成用户感兴趣的播客内容。
音频生成#AI
348

Lovart
国外精选
Lovart 是一款革命性的 AI 设计代理,能够将创意提示转化为艺术作品,支持从故事板到品牌视觉的多种设计需求。
AI设计工具#创意工具
1,128

Fastvlm
FastVLM 是一种高效的视觉编码模型,专为视觉语言模型设计。
AI模型#图像处理开源
564

Smart PDFs
国外精选
Smart PDFs 是一个在线工具,利用 AI 技术快速分析 PDF 文档,并生成简明扼要的总结。
文章摘要#AI
984

Keysync
KeySync 是一个针对高分辨率视频的无泄漏唇同步框架。
视频编辑#视频处理开源
480

Anyvoice
AnyVoice是一款领先的AI声音生成器,采用先进的深度学习模型,将文本转换为与人类无法区分的自然语音。
音频生成#文本转语音
26.38k

Liblibai
中文精选
LiblibAI是一个中国领先的AI创作平台,提供强大的AI创作能力,帮助创作者实现创意。
AI模型#图像生成
344.42k