达到涌现能力所需的算力投入已接近国家基础设施级别,各国正通过算力使用、数据合规和出口管制政策,系统性地监管人工智能超大规模训练。

大模型具备涌现能力,即当模型规模达到某个阈值时,对某些问题的处理性能会突然呈现快速增长。这意味着训练大规模模型所需的算力集群已不再是企业级设施,其规模与能耗开始触及国家监管的边界。美国、欧盟和中国正在从不同维度制定相关政策,直接影响人工智能模型的研发路径。

美国:高端AI芯片出口限制与算力门槛

美国对华高端AI芯片的出口限制,直接影响了国内大模型的训练速度。官方资料指出,2022年8月之后,美国限制了部分高端GPU出口中国,在一定程度上影响模型训练速度。这种管制本质上是将算力视为战略资源,通过控制芯片的获取门槛,间接对模型训练的算力规模设限。

欧盟:AI Act对通用AI系统的算力分类

欧盟《人工智能法案》(AI Act)对通用AI系统(General-Purpose AI)的监管引入了算力分类标准。虽然官方资料未给出具体算力阈值,但该法案的核心思路是:算力投入越高的模型,被视为系统性风险越大,适用的合规义务越严格。这意味着达到涌现能力所需算力门槛的模型,将面临更重的透明度、风险评估和文档记录要求。

中国:算力券与东数西算政策

中国通过“东数西算”工程和“算力券”等政策,引导大模型企业优化算力使用。这些政策旨在降低企业算力成本,同时推动算力资源的区域均衡部署。官方资料提到,国内大模型与美国的差距已缩小到1-3年,部分算力约束通过国产GPU或ASIC替代来缓解。政策的导向是鼓励高效、合规的算力使用,而非限制发展。

常见问题

涌现能力具体需要多少算力?

从官方资料提供的图表来看,当模型训练计算量(FLOPs)达到约1.0e+23时,某些任务的准确率会出现从约50%到63%的跳跃式增长,这体现了涌现能力的典型特征。但具体阈值因任务和模型架构而异,官方资料未给出统一的涌现算力门槛。

算力监管是否会影响中国大模型的发展?

短期内,算力管制对模型训练速度有一定影响,但国内企业正通过算法创新和国产硬件替代来应对。从全球千亿参数大模型数量来看,中国企业贡献了约33%,美国贡献了约50%,中国仍处于跟随和追赶态势,但差距在缩小。

数据合规如何影响大模型训练?

数据合规是各国监管的核心之一。大模型训练需要大规模无标注数据,但数据来源、隐私保护和合规使用的要求日益严格。官方资料强调,大模型的关键在于泛化能力和涌现能力,而合规的数据采集与处理是支撑这些能力的基础。企业需在数据规模与合规成本之间取得平衡。

延伸阅读