在人工智能推动下,FPGA 的应用重心经历了从云端推断向边缘推断迁移的关键拐点。早期,AI 芯片按训练与推断分工,训练以 GPU 为主,推断则可选用 CPU、GPU、FPGA 与 ASIC;阿里云、亚马逊、微软等厂商曾探索“云服务器+FPGA 芯片”模式,云端数据中心业务中 FPGA 凭借灵活性和可深度优化特点,有望继 GPU 之后在该市场爆发。 随着大模型逐步成熟并向下游落地,适用于推断的 FPGA 占比有望提升,其应用路线进一步延伸至终端智能安防等边缘场景。
拐点一:从训练主导到推断需求上升
AI 芯片大体分为训练与推断两类。训练计算量庞大,目前应用最多的仍是 GPU;推断计算量相对较小,更侧重能耗、时延与成本。由于大部分大模型仍处开发阶段,训练芯片需求更大,而随着各类大模型成熟并在生产生活中逐步应用,推断类 AI 芯片占比可能逐步提升,这为 FPGA 打开了空间。
拐点二:云端推断的“云服务器+FPGA”探索
在云端推断环节,矩阵运算量大但较训练少,CPU、GPU、FPGA、ASIC 均可参与。阿里云、亚马逊、微软等公司探索了云服务器+FPGA 芯片模式。FPGA 可处理用户实时计算请求以及小计量大批次的计算,在云端数据中心业务中,以其灵活性和可深度优化特点,有望继 GPU 之后在该市场爆发。
拐点三:边缘推断与终端智能安防落地
未来人工智能应用场景对终端设备推断能力要求高。FPGA 是低功耗异构芯片,开发周期快、编程灵活。基于 CPU 的传统计算架构无法充分满足人工智能高性能并行计算需求,需要 FPGA 等专属芯片。人工智能领域解决方案正从软件演进到软件+芯片,在终端智能安防领域,已有厂商采用 FPGA 方案实现 AI 硬件加速。
常见问题
FPGA 在 AI 中主要承担训练还是推断?
FPGA 主要适用于推断。训练计算量庞大,目前应用最多的是 GPU;推断更注重能耗、时延、成本等综合指标,FPGA 具有开发周期短、可配置性等特点,在 AI 推断市场潜力巨大。
为什么 FPGA 适合终端智能安防?
终端设备对推断能力要求高,且需要低功耗与灵活开发。FPGA 是低功耗异构芯片,开发周期快、编程灵活,能适配终端智能安防的 AI 硬件加速需求,目前已有厂商采用该方案。
云端数据中心里 FPGA 的前景如何?
在云端数据中心业务中,FPGA 以其灵活性和可深度优化的特点,有望继 GPU 之后在该市场爆发,可处理用户实时计算请求以及小计量大批次的计算。