在云端数据中心用FPGA做实时推理,产业链大致分为四层:上游是FPGA芯片设计,中游是板卡与加速卡制造,下游是云平台集成,最贴近用户的是算法与模型部署。阿里云、亚马逊、微软等公司探索的"云服务器+FPGA"模式,正是把FPGA以灵活、可深度优化的特性接入云端,承接用户实时计算请求以及小计量大批次的计算。整体看,训练环节仍以GPU为主,而云端推断环节CPU、GPU、FPGA、ASIC均可参与,FPGA被业内视为继GPU之后在该市场有爆发潜力的品类。
一、芯片设计:产业链的起点
FPGA全称现场可编程门阵列,是一种硬件可重构的芯片,用户在使用过程中可通过软件重新配置芯片内部资源来实现不同功能。相比其他芯片,它更灵活,同时具备开发周期短、效率高的特性,因而适合人工智能、5G通信这类迭代升级周期频繁、技术不确定性较大的领域。
从竞争格局看,全球FPGA市场主要由海外巨头占据,赛灵思和Altera(英特尔旗下)市占率分别为52%和35%。国内市场同样由海外厂商主导,但国产厂商已开始崭露头角,紫光国微、复旦微电和安路科技合计市占率在2021年超过15%。技术实力上,工艺制程和门级规模是评价FPGA性能的重要指标,国产厂商先进制程集中在28nm,落后于国际16nm水平;国产旗舰产品处于200K门级水平,约为XILINX高端产品的25%左右,仍有追赶空间。
二、板卡、云平台与算法部署
芯片之后,产业链进入板卡与加速卡环节,将FPGA芯片做成可插入服务器的硬件形态;再往下一层是云平台集成,云厂商把FPGA资源池化,以云服务器形式对外提供算力。阿里云、亚马逊、微软等正是这一模式的探索者。
最上层是算法与模型部署,开发者把训练好的模型迁移到FPGA上做推断。推断利用已训练好的模型、使用新数据得出结论,计算量相对训练小很多,更侧重能耗、时延、成本等综合指标。FPGA可处理用户实时计算请求以及小计量大批次的计算,这一特性使其在云端推断场景中具备独特位置。
常见问题
FPGA在云端数据中心主要承担什么计算任务?
FPGA主要面向云端推断场景,可处理用户实时计算请求以及小计量大批次的计算。训练环节计算量庞大,目前应用最多的仍是GPU;而推断环节计算量相对较小,CPU、GPU、FPGA、ASIC均可参与。
为什么云厂商会选择"云服务器+FPGA"模式?
FPGA是硬件可重构芯片,用户可通过软件重新配置内部资源实现不同功能,灵活且开发周期短、效率高。在现阶段云端数据中心业务中,FPGA以其灵活性和可深度优化的特点,有望继GPU之后在该市场爆发,因此阿里云、亚马逊、微软等公司都在探索这一模式。
国产FPGA厂商在产业链中处于什么位置?
国产FPGA厂商已开始崭露头角,紫光国微、复旦微电和安路科技合计市占率在2021年超过15%。但在工艺制程和门级规模等关键指标上与国际水平仍有差距,在国产化加速推进的背景下有望快速追赶。