人工智能概念自1956年首次提出以来,已历经60余年、三次浪潮的曲折演进。2006年深度学习理论的突破,带动了第三次浪潮的加速;而过去五年数据、算力和算法的提升,推动AI从针对特定场景训练的小模型,转向在大规模无标注数据上训练的大模型。 大模型具备涌现能力——当模型规模达到某个阈值时,对某些问题的处理性能会突然呈现快速增长,ChatGPT正是基于这种能力出现的现象级应用。
三次浪潮与关键拐点
从技术发展阶段看,人工智能可分为运算智能、感知智能、认知智能和意识智能四个层次,目前正处于第三代人工智能,即认知智能阶段,终极探索目标是机器的意识智能。
这一演进的关键拐点在于模型范式的切换。在这轮浪潮前期,AI模型都是针对特定应用场景需求进行训练的小模型,通用性差,换到另一个场景往往并不适用,需要重新训练,牵涉大量调参、调优工作和成本;同时模型训练依赖大规模标注数据,在数据量少的场景中精度不理想,导致研发成本高、效率低。
过去五年,随着数据、算力和算法的提升,AI技术从小模型发展到大模型。大模型在大规模无标注数据上训练,学习出特征和规则,泛化能力更强,通过微调甚至不微调即可完成多个应用场景的任务,有效降低了AI应用研发门槛。
从小模型到大模型的跃迁
大模型最受关注的特征是涌现能力:当模型规模达到某个阈值时,模型对某些问题的处理性能突然呈现快速增长。正是基于这种能力,才有了ChatGPT这种现象级应用的出现。
从产品模式看,ChatGPT属于生成式人工智能技术(AIGC)的一种。与传统的决策/分析式AI相比,生成式AI并非通过简单分析已有数据来进行分析与决策,而是在学习归纳已有数据后进行演绎创造,基于历史进行模仿式、缝合式创作,生成全新的内容。
常见问题
人工智能的三次浪潮中,第三次浪潮的加速节点是什么?
2006年深度学习理论的突破,带动了人工智能第三次浪潮的加速进展。目前正处于这一轮浪潮之中,基于大模型的涌现能力,已经诞生了ChatGPT这一现象级AIGC应用。
大模型和小模型的核心区别是什么?
小模型针对特定应用场景训练,通用性差,换场景需重新训练,且依赖大规模标注数据,导致研发成本高、效率低。大模型在大规模无标注数据上训练,泛化能力强,微调甚至不微调即可完成多个场景任务,有效降低了AI应用研发门槛。
ChatGPT为什么被视为现象级拐点?
ChatGPT属于生成式人工智能技术的一种,其出现标志着人工智能技术即将广泛应用于生产生活。它基于大模型的涌现能力,当模型规模达到阈值时性能突增,从而支撑起这一应用形态的落地。