中国AI算力规模冲上640EFLOPS，这些下游应用场景谁在吃掉算力？

"当前大模型多处于开发训练阶段，训练芯片需求占主导。但类比AI应用的发展规律，当模型成熟并大规模部署后，每一次用户调用都涉及推断计算，其频次和总量将远超训练阶段，因此推断类芯片占比提升是确定性较高的趋势。"

"FPGA是低功耗异构芯片，开发周期快且编程灵活。基于CPU的传统计算架构无法充分满足AI高性能并行计算的需求，而FPGA可在终端设备上提供灵活的AI硬件加速方案，目前已在智能安防等领域落地应用。"

"受研发成本与研发壁垒限制，ASIC目前在AI行业的渗透率依然较低。但凭借卓越性能与低功耗特性，随着AI行业愈加成熟、下游应用不断优化上游芯片研发成本，ASIC有望成为AI推断场景的重要选择。"

中国AI算力规模已冲上640EFLOPS，这些算力正被大模型训练、云端推理和边缘推断三大场景分食。当前阶段，大模型训练是算力消耗的主力，但随着模型逐步成熟并落地应用，推理类芯片的需求占比将逐步提升，这是AI算力需求结构演变的核心趋势。

训练与推断：两种截然不同的算力需求

AI芯片因机器学习的两大步骤——训练和推断——而分为两大类型。训练芯片更注重绝对的计算能力，需要处理海量数据并具备一定通用性，目前应用最多的主要是GPU；推断芯片则侧重能耗、时延、成本等综合指标，计算量相对较小，CPU、GPU、FPGA及ASIC均可胜任。

由于大部分大模型仍处于开发阶段，当前对训练芯片的需求更大。未来随着各类大模型成熟并在生产生活中逐步应用，推断类AI芯片的占比有望逐步提升，这将直接改变算力需求的下游结构。

在AI芯片的细分品类中，CPU、GPU、FPGA和ASIC的通用性依次降低，但运算效率逐步提高。GPU凭借较强的通用性和成熟的制造工艺，是目前唯一可用于AI训练的量产芯片，占据了AI芯片市场的主要份额。而FPGA和ASIC则在推断市场展现出差异化优势：

FPGA（现场可编程门阵列）：硬件可重构，开发周期短、编程灵活，是低功耗异构芯片。在云端数据中心，FPGA可处理用户实时计算请求及小批量大批次的计算；在终端智能安防领域，已有厂商采用FPGA方案实现AI硬件加速。
ASIC（专用集成电路）：根据特定需求定制，在性能、能效、成本等方面极大超越标准芯片，同样非常适合AI推断场景，是当前大部分AI初创公司开发的目标产品。

当前大模型多处于开发训练阶段，训练芯片需求占主导。但类比AI应用的发展规律，当模型成熟并大规模部署后，每一次用户调用都涉及推断计算，其频次和总量将远超训练阶段，因此推断类芯片占比提升是确定性较高的趋势。

FPGA是低功耗异构芯片，开发周期快且编程灵活。基于CPU的传统计算架构无法充分满足AI高性能并行计算的需求，而FPGA可在终端设备上提供灵活的AI硬件加速方案，目前已在智能安防等领域落地应用。

受研发成本与研发壁垒限制，ASIC目前在AI行业的渗透率依然较低。但凭借卓越性能与低功耗特性，随着AI行业愈加成熟、下游应用不断优化上游芯片研发成本，ASIC有望成为AI推断场景的重要选择。