在云端数据中心的实时计算请求持续增多的背景下，FPGA在人工智能推断场景中的需求结构正从“通用加速备选”向“云端推断重要参与者”演变。核心逻辑在于：推断环节计算量较训练明显更小，但包含大量矩阵运算，CPU、GPU、FPGA、ASIC均可参与；而FPGA凭借硬件可重构、开发周期短、可深度优化的特点，能够处理用户实时计算请求以及小计量大批次的计算，在现阶段云端数据中心业务中有望继GPU之后迎来市场爆发。 阿里云、亚马逊、微软等厂商已在探索云服务器+FPGA芯片模式。

需求结构为何向推断倾斜

AI芯片按用途可分为训练芯片与推断芯片。训练通过大数据训练出复杂的神经网络模型，计算量非常大，更注重绝对计算能力；推断则是利用训练好的模型对新数据得出结论，计算量相对小很多，更注重能耗、时延、成本等综合指标。

目前大部分大模型仍处于开发阶段，因此更适用于训练的GPU占据更大的市场份额。随着各类大模型逐步成熟并在生产生活中落地，适用于AI推断的FPGA和ASIC占比有望逐步提升。

FPGA在云端推断中的角色

在云端推断场景中，FPGA的定位由自身特性决定：

  • 硬件可重构：用户可在使用过程中通过软件重新配置芯片内部资源，实现不同功能。
  • 开发周期短、效率高：在人工智能、5G通信这类迭代升级周期频繁、技术不确定性较大的领域，是较为理想的解决方案。
  • 适配实时请求：可处理用户实时计算请求以及小计量大批次的计算。

在主流AI服务器采用的CPU+XPU异构架构中，CPU负责读取和准备数据并传输给XPU，GPU、FPGA、ASIC等XPU作为加速芯片处理大规模并行计算。FPGA在其中承担的是可配置的推断加速角色。

市场空间与竞争格局

全球FPGA市场规模预计从2021年的82.9亿美元增长到2025年的125.2亿美元，年均复合增长率约10.8%；中国FPGA市场增长更快，预计2021—2025年规模复合增速为17.1%。

竞争格局方面，全球市场主要由海外巨头占据，赛灵思和Altera的市占率分别为52%和35%；国内市场同样由海外厂商主导，但国产厂商已开始崭露头角，紫光国微、复旦微电和安路科技合计市占率在2021年超过15%。技术实力上，国产厂商先进制程集中在28nm，落后于国际16nm水平；旗舰产品门级规模处于200K水平，约为XILINX高端产品的25%左右。在国产化加速推进的背景下，中国FPGA厂商有望快速追赶。

常见问题

FPGA在云端推断中主要解决什么问题？

FPGA可处理用户实时计算请求以及小计量大批次的计算，凭借硬件可重构、开发周期短、可深度优化的特点，适配云端数据中心对能耗、时延、成本的综合要求。

FPGA会取代GPU在数据中心的地位吗？

不会简单取代。训练环节计算量庞大，目前应用最多的仍是GPU；FPGA的定位是在云端推断市场，有望继GPU之后在该市场爆发，两者面向的环节不同。

云端推断有哪些芯片方案可选？

云端推断包含大量矩阵运算，但计算量较训练少，CPU、GPU、FPGA以及ASIC均可参与运算，具体选择取决于能耗、时延、成本等综合指标。