大模型从训练走向推理，AI芯片需求结构将怎样切换？

大模型从训练走向推理，AI芯片的需求结构将随之切换：当前大模型多处于开发阶段，训练芯片需求更大，GPU是绝对主力；未来随着大模型在应用中逐步落地，侧重能耗、时延、成本等综合指标的推理芯片占比有望提升，FPGA与ASIC在推断场景的潜力将逐步释放。 据IDC预测，未来几年AI芯片复合增速有望达到50%左右，需求扩张趋势明确。

训练与推理：两种不同的算力逻辑

AI芯片需求结构的切换，根源在于机器学习的两个步骤对算力的要求截然不同。

训练芯片负责通过海量数据训练出复杂的神经网络模型，计算量庞大，因此更注重绝对计算能力和通用性。目前应用最多的主要是GPU，它是唯一已实现量产、可用于AI训练的芯片。

推理芯片则利用训练好的模型对新数据做出结论，计算量相对较小，更看重能耗、时延、成本等综合指标。除CPU、GPU外，FPGA与ASIC也适用于云端推断，而在边缘推断场景，FPGA凭借低功耗、开发周期快、编程灵活等特性，正成为AI硬件加速的重要方案。

因此，大模型从开发走向成熟应用的过程，将直接推动AI芯片需求从“唯算力论”向“综合性价比”迁移。

FPGA与ASIC：推理时代的潜力选手

在推理需求放量的预期下，两类芯片的关注度显著提升。

FPGA（现场可编程门阵列） 是一种硬件可重构的芯片，用户可通过软件重新配置内部资源实现不同功能，具备开发周期短、灵活性高的特点，在技术迭代频繁的AI领域是较为理想的解决方案。在云端数据中心业务中，FPGA以其灵活性和可深度优化的特点，有望继GPU之后迎来市场机会；目前阿里云、亚马逊、微软等均已探索“云服务器+FPGA芯片”模式。

ASIC（专用集成电路） 为特定用途定制，专用化程度最高，具有高性能、低能耗的特点。受研发成本与壁垒限制，其在AI行业的渗透率仍较低，但随着行业成熟、下游应用反哺研发成本，ASIC有望凭借性能与功耗优势成为AI推断场景的重要选择。

两类芯片的特点对比如下：

常见问题

推理芯片会完全取代训练芯片吗？

不会。训练与推理是机器学习的不同阶段，需求将长期并存。切换指的是需求增量结构的变化——随着大模型成熟落地，推理场景的算力需求增速可能超过训练，而非训练芯片被淘汰。

GPU在推理时代会失去优势吗？

不会失去优势。GPU目前仍可执行推理运算，且占据AI芯片市场主要份额。FPGA与ASIC的机遇在于推理场景对时延、功耗、成本的差异化要求，为不同架构芯片提供了细分空间，而非对GPU的简单替代。

如何理解FPGA在边缘推断中的价值？

边缘推断对终端设备的实时响应和功耗控制要求较高。FPGA作为低功耗异构芯片，开发周期快、编程灵活，能处理用户实时计算请求及小计量大批次的计算，因此被视为适配边缘AI场景的重要方案。