人工智能推理芯片的需求主要来自云端大模型推理、边缘计算（安防、工业）和终端AI（手机、PC、汽车）三大场景，需求结构正从以训练为主转向推理占比逐步提升，且各场景对芯片的性能、功耗和成本要求差异显著。
云端大模型推理：当前最大市场
大模型推理是人工智能推理芯片最大的下游场景。随着各类大模型逐步成熟并在生产生活中应用，推断类AI芯片的占比预计将持续提升。在云端数据中心，FPGA（现场可编程门阵列）以其灵活性和可深度优化的特点，有望继GPU之后在该市场爆发，能够处理用户实时计算请求以及小计量大批次的计算任务。
边缘计算与终端AI：快速增长的新增量
边缘计算领域，安防和工业场景对终端设备推断能力要求高，FPGA作为低功耗异构芯片，开发周期快、编程灵活，已成为终端智能安防领域实现AI硬件加速的方案之一。终端AI方面，手机、PC和汽车等设备带来海量增量，这些场景更注重芯片的综合指标，侧重考虑能耗、时延和成本等性能，FPGA与ASIC（专用集成电路）均非常适合此类推理场景。
需求结构变化：从云端向端侧扩展
人工智能推理芯片的需求结构正从以云端训练为主，向云端与端侧推理并重扩展。目前大部分大模型仍处于开发阶段，训练芯片需求更大；未来随着大模型在下游应用端落地，适用于推理的FPGA和ASIC占比有望逐步提升。ASIC凭借其卓越性能及低功耗，未来甚至有望成为人工智能技术的首选。
常见问题
云端推理与边缘推理对芯片的要求有何不同？
云端推理侧重于实时计算请求和小计量大批次计算，FPGA因其灵活性和可深度优化特点适合此场景；边缘推理则更强调低功耗、低时延和成本控制，FPGA作为低功耗异构芯片，开发周期快，在终端智能安防等领域已有FPGA方案实现AI硬件加速。
推理芯片市场的主要参与者有哪些？
在FPGA领域，全球市场由赛灵思和Altera主导，国内紫光国微、复旦微电和安路科技合计市占率在2021年超过15%。在ASIC领域，全球尚未形成明显头部厂商，主要竞争者包括英伟达、谷歌和英特尔，国内主流厂商包括海思、寒武纪等，国产旗舰ASIC在性能上能与海外比肩。
推理芯片需求增长的核心驱动力是什么？
核心驱动力是大模型从开发阶段走向生产应用落地，以及边缘计算和终端AI场景的快速扩张。随着人工智能行业愈加成熟，蓬勃发展的下游应用将不断优化上游芯片研发成本，推动推理芯片市场持续增长。