FPGA（现场可编程门阵列）是一种硬件可重构的芯片，用户在使用过程中可通过软件重新配置芯片内部资源，实现不同功能。凭借开发周期短、编程灵活、效率高等特性，FPGA 在人工智能推断环节的下游应用主要集中在云端推断与边缘推断两大场景，终端智能安防已有厂商采用 FPGA 方案实现 AI 硬件加速。
云端推断：数据中心里的灵活算力
在云端推断环节，计算以大量矩阵运算为主，但相比训练环节计算量较少，CPU 或 GPU 可以进行运算，也可使用 FPGA 以及 ASIC。在现阶段云端数据中心业务中，FPGA 以其灵活性和可深度优化的特点，有望继 GPU 之后在该市场爆发。
具体到任务类型，FPGA 可以处理用户实时计算请求以及小计量大批次的计算。目前探索云服务器+FPGA 芯片模式的公司包括阿里云、亚马逊、微软等。
边缘推断与智能安防：低功耗异构方案落地
未来人工智能应用场景对终端设备推断能力的要求高，而基于 CPU 的传统计算架构无法充分满足人工智能高性能并行计算的需求，需要 FPGA 等人工智能架构的专属芯片。FPGA 作为低功耗异构芯片，开发周期快、编程灵活，人工智能领域的解决方案目前正从软件演进到软件+芯片。
在目前的终端智能安防领域，已有厂商采用 FPGA 方案实现 AI 硬件加速。
常见问题
FPGA 在云端推断中扮演什么角色？
在云端推断环节，CPU、GPU、FPGA、ASIC 均可参与运算。FPGA 以灵活性和可深度优化的特点，在现阶段云端数据中心业务中有望继 GPU 之后迎来市场机会，可处理用户实时计算请求以及小计量大批次的计算。
为什么边缘推断场景会考虑 FPGA？
FPGA 是低功耗异构芯片，具备开发周期快、编程灵活的特性，能够较好匹配终端设备对推断能力的要求。在终端智能安防领域，已有厂商采用 FPGA 方案实现 AI 硬件加速。
哪些公司在探索云服务器+FPGA 模式？
探索云服务器+FPGA 芯片模式的公司包括阿里云、亚马逊、微软等。