从NLP通用到CV定制,人工智能视觉模型的发展历程经历了从早期依赖特征工程的专用模型,到Transformer架构引入后迈向通用化探索的关键拐点。目前CV大模型短期还很难出现大的爆发,主要受限于数据规模、学习方法、任务多样性和计算量等挑战。

早期CV模型:从特征工程到CNN

早期的视觉大模型训练需要透过提取特征工程,通过学习大量图像和视频数据形成视觉通用能力。这一阶段的模型多为针对特定任务设计,缺乏跨领域的泛化能力,模型参数量和任务场景的覆盖范围都较为有限。

关键拐点:Transformer架构的引入

NLP领域以BERT和GPT为代表的语言大模型成功推动了自监督学习范式,其核心在于通过海量语料库预训练掌握上下文语境。这一范式被引入CV领域后,催生了ViT(Vision Transformer)系列Swin-Transformer系列等代表性CV大模型。Meta发布的SAM模型能够识别图像和视频中的物体,实现了CV底层技术的突破。然而,CV领域的学习方法仍需突破,建立通用视觉模型仍是未知。

为什么NLP大模型范式在CV领域遇到卡点

相比NLP大模型,CV大模型面临四个核心挑战:1)可用于训练的有效数据比NLP领域有不少差距;2)学习方法还需要突破;3)不同的视觉应用仍需要依赖不同的模型,如何建立通用的视觉模型还是未知;4)供训练的图像尺寸越来越大,较小的模型也可能有很大的计算量。因此,CV大模型短期还很难出现大的爆发。


常见问题

现阶段有哪些代表性的CV大模型?

现阶段比较有名的CV大模型包括微软的Swin-Transformer系列、谷歌的ViT系列,以及Meta的SAM模型。国内方面,商汤科技在4月初发布了日日新大模型。

NLP大模型与CV大模型的发展差距有多大?

NLP大模型(如GPT系列)是目前大模型的主要发展方向,而CV大模型受数据和算法限制,暂时还不成熟。两者在训练数据的规模、学习方法的成熟度以及模型的通用性上存在明显差距。

CV大模型未来可能突破的方向是什么?

CV大模型的发展方向包括提升自监督学习效率、扩大有效训练数据规模,以及探索更通用的模型架构。国产厂商如腾讯在NLP和CV大模型中优势较大,华为则在行业应用领域(如交通、电力)的CV大模型落地方面进展较快。

延伸阅读