AIM
简介 :
这篇论文介绍了AIM,这是一组使用自回归目标进行预训练的视觉模型。这些模型受其文本对应物,即大型语言模型(LLMs)的启发,并表现出类似的扩展特性。具体来说,我们强调了两个关键发现:(1)视觉特征的性能随着模型容量和数据量的增加而提高,(2)目标函数的价值与模型在下游任务上的性能相关。我们通过在20亿张图像上对70亿参数的AIM进行预训练,实现了在ImageNet-1k上使用冻结主干达到84.0%的准确率。有趣的是,即使在这个规模上,我们观察到性能没有饱和的迹象,这表明AIM可能代表了训练大规模视觉模型的新前沿。AIM的预训练类似于LLMs的预训练,并不需要任何图像特定的策略来稳定大规模训练。
需求人群 :
适用于大规模图像数据的自回归预训练,以及需要训练大规模视觉模型的场景。
总访问量: 3.1M
占比最多地区: US(14.90%)
本站浏览量 : 69.3K
使用场景
用于自动驾驶系统中的大规模图像识别
在医学影像分析中的大规模数据预训练
应用于智能监控系统的大规模视觉模型训练
产品特色
自回归图像模型预训练
大规模视觉模型训练
性能优化和扩展
AIbase
智启未来,您的人工智能解决方案智库
简体中文