人工智能芯片复合增速有望达50%左右，训练与推理芯片的下游需求结构会如何演变？

人工智能芯片未来几年复合增速有望达到约50%，训练与推理芯片的下游需求结构，将随着大模型从开发阶段走向生产生活应用而逐步演变：现阶段训练芯片需求更大，GPU凭借通用性占据主要份额；未来推理类芯片占比有望逐步提升，FPGA与ASIC在推理场景中的潜力值得关注。

训练与推理：两种芯片，两种能力侧重

机器学习分为训练与推断两个步骤，对应两类不同的AI芯片。训练是用大数据训练出复杂的神经网络模型，计算量非常大，训练芯片更注重绝对的计算能力，要求能处理海量数据，同时具备一定通用性，以完成各类学习任务。推断则是利用训练好的模型，用新数据推断结论，计算量相对小很多，更侧重能耗、时延、成本等综合指标。

正因为当前大部分大模型仍处于开发阶段，对训练芯片的需求更大，GPU在已量产芯片中是唯一可用于AI训练的品类，因而占据了AI芯片市场的主要份额。未来随着各类大模型成熟并在生产生活中逐步应用，推断类AI芯片的占比可能逐步提升。

在云端推断环节，计算仍包含大量矩阵运算，但相比训练计算量较少，不仅CPU或GPU可以承担，也可使用FPGA以及ASIC。在现阶段云端数据中心业务中，FPGA凭借灵活性和可深度优化的特点，有望继GPU之后在该市场爆发，可处理用户实时计算请求以及小计量大批次的计算。

在边缘推断环节，未来人工智能应用场景对终端设备的推断能力要求较高。FPGA是低功耗异构芯片，开发周期快、编程灵活；基于CPU的传统计算架构无法充分满足人工智能高性能并行计算的需求，需要FPGA等专属芯片架构。在终端智能安防领域，目前已有厂商采用FPGA方案实现AI硬件加速。

AI芯片具体分为CPU、GPU、FPGA和ASIC四类，通用性逐渐降低，运算效率逐步提高。主流AI服务器计算架构一般采用CPU+XPU的异构形式：CPU负责读取和准备数据，并将数据传输到XPU进行计算；GPU、FPGA、ASIC等XPU作为加速芯片，处理大规模并行计算。

芯片类型	特点与适用方向
GPU	通用性较强，适合大规模并行计算，设计及制造工艺较成熟，是目前唯一可用于AI训练的已量产芯片
FPGA	开发周期短、可配置，在AI推断市场潜力较大
ASIC	按特定需求设计，在性能、能效、成本方面超越标准芯片，适合AI推断场景

ASIC受研发成本与研发壁垒限制，目前在AI行业的渗透率依然较低。随着行业愈加成熟，蓬勃发展的下游应用将不断优化上游芯片研发成本，ASIC凭借卓越性能及低功耗，有望成为人工智能技术的重要选择。

因为现在大部分大模型都还处于开发阶段，训练环节需要处理海量数据和复杂深度神经网络，计算规模庞大。训练芯片更注重绝对计算能力，而GPU是目前唯一可用于AI训练的量产芯片，因此占据了AI芯片市场的主要份额。

推断利用已训练好的模型处理新数据，计算量相对训练小很多，更侧重能耗、时延和成本。未来随着各类大模型成熟并在生产生活中逐步应用，推断类AI芯片的占比可能会逐步提升，FPGA和ASIC在其中的潜力较大。

FPGA硬件可重构，开发周期短、编程灵活，是低功耗异构芯片，在云端推断和边缘推断中均有应用空间，终端智能安防领域已有厂商采用FPGA方案实现AI硬件加速。ASIC为特定用途定制，专用化程度最高，具有高性能、低能耗特点，同样非常适合AI推断场景。