Cogagent
目标受众为研究人员和开发者,特别是那些在GUI自动化、视觉语言模型和自然语言处理领域寻求高效解决方案的专业人士。CogAgent提供的先进技术可以帮助他们开发和研究基于视觉语言模型的GUI代理,推进相关技术的发展和应用。
总访问量: 474,564,576
占比最多地区: US(19.34%)
924
简介
CogAgent是一个基于视觉语言模型(VLM)的GUI代理,它通过屏幕截图和自然语言实现双语(中文和英文)交云。CogAgent在GUI感知、推理预测准确性、操作空间完整性和任务泛化方面取得了显著进步。该模型已经在ZhipuAI的GLM-PC产品中得到应用,旨在帮助研究人员和开发者推进基于视觉语言模型的GUI代理的研究和应用。
截图
产品特色
支持双语(中文和英文)交云,通过屏幕截图和自然语言进行交互。
在GUI感知、推理预测准确性、操作空间完整性和任务泛化方面具有显著优势。
CogAgent-9B-20241220模型基于GLM-4V-9B,一个双语开源VLM基础模型。
支持多阶段训练和策略改进,实现GUI感知和推理预测的准确性。
模型输出遵循严格格式,以字符串格式返回,不支持JSON输出。
不支持连续对话,但支持连续执行历史。
需要图像作为输入,纯文本对话无法实现GUI代理任务。
使用教程
1. 确保已安装Python 3.10.16或以上版本,并安装requirements.txt中的依赖。
2. 根据需要的输出格式和平台,使用适当的命令行参数运行模型。
3. 提供模型所需的输入图像,并接收包含操作指令的输出。
4. 如果模型返回包含边界框的结果,将输出指示操作执行区域的图像。
5. 使用输出图像路径参数指定输出图像的保存位置。
6. 根据需要调整模型参数,如最大长度、返回结果数等。
7. 对于在线Web演示,可以运行web_demo.py并指定相关参数以实现交互式推理。
8. 参考项目文档和模型技术博客,深入了解模型的使用和优化。
流量来源
直接访问51.61%外链引荐33.46%邮件0.04%
自然搜索12.58%社交媒体2.19%展示广告0.11%
最新流量情况
月访问量
4.92m
平均访问时长
393.01
每次访问页数
6.11
跳出率
36.20%
总流量趋势图
地理流量分布情况
美国
19.34%
中国
13.25%
印度
9.32%
俄罗斯
4.28%
德国
3.63%
地理流量分布全球图
同类开源产品
Dmind
DMind-1 和 DMind-1-mini 是针对 Web3 任务的领域专用大型语言模型,提供比其他通用模型更高的领域准确性、指令跟随能力及专业理解。
AI模型#人工智能
Minion Agent
优质新品
Minion Agent 是一个简单而强大的代理框架,能够与浏览器交互,支持深度研究、自动规划等功能,适用于需要进行复杂任务和研究的用户。
开发与工具#深度研究
Scrapybara
Scrapybara为开发者提供统一的API,以执行任何模型的代理,并访问浏览器、文件系统和代码沙箱等低级控制。
开发与工具#AI代理
Tokenomy.ai
Tokenomy是一款高级AI令牌计算器和成本估算工具,可用于LLMs。
开发与工具#令牌管理
Bugster
Bugster是一款AI驱动的测试解决方案,能够将用户流程转化为自动化测试,帮助开发人员快速发布无bug的软件。
开发与工具#AI测试
Mendel Lab
Mendel利用AI优化工作流程,自动化代码审查,跟踪团队绩效,提高部署效率。
开发与工具#工程指标
Fastvlm
FastVLM 是一种高效的视觉编码模型,专为视觉语言模型设计。
AI模型#图像处理
Zerosearch
ZeroSearch 是一种新颖的强化学习框架,旨在激励大型语言模型(LLMs)的搜索能力,而无需与实际搜索引擎进行交互。
AI模型#搜索能力
Plugin Pal
Plugin Pal是一个AI驱动的WordPress插件生成器,为自由职业者、机构和WordPress从业者提供了简化开发流程、记录时间内建立MVP和提升技能的终极工具。
开发与工具#WordPress插件生成器
替代品
Minion Agent
优质新品
Minion Agent 是一个简单而强大的代理框架,能够与浏览器交互,支持深度研究、自动规划等功能,适用于需要进行复杂任务和研究的用户。
开发与工具#深度研究
Fastvlm
FastVLM 是一种高效的视觉编码模型,专为视觉语言模型设计。
AI模型#图像处理
Zerosearch
ZeroSearch 是一种新颖的强化学习框架,旨在激励大型语言模型(LLMs)的搜索能力,而无需与实际搜索引擎进行交互。
AI模型#搜索能力
Notellm
NoteLLM 是一款专注于用户生成内容的可检索大型语言模型,旨在提升推荐系统的性能。
AI模型#多模态处理
Agent As A Judge
Agent-as-a-Judge 是一种新型的自动化评估系统,旨在通过代理系统的互相评估来提高工作效率和质量。
开发与工具#奖励信号
Firecrawl MCP Server
Firecrawl MCP Server 是一款集成了强大网页抓取功能的插件,支持多种 LLM 客户端如 Cursor 和 Claude。
开发与工具#数据提取
MCP SuperAssistant
MCP SuperAssistant 是一个 Chrome 扩展,集成了模型上下文协议(MCP)工具,使用户能够直接从 AI 平台执行 MCP 工具,并将结果插入对话中。
开发与工具#AI 助手
Deepseek Prover V2 671B
DeepSeek-Prover-V2-671B 是一个先进的人工智能模型,旨在提供强大的推理能力。
AI模型#开源
Xiaomi MiMo
优质新品
Xiaomi MiMo是小米公司开源的首个推理大模型,专为推理任务设计,具备卓越的数学推理和代码生成能力。
AI模型