大模型从云端走向千行百业，人工智能芯片的需求结构正从以训练为主，逐步向训练与推理并重、乃至以推理为主导的方向演变。这一变化的本质在于，AI 应用从“开发期”进入“落地期”，芯片的算力消耗重心也随之从“造模型”转向“用模型”。对约投顾而言，理解这一趋势，是把握 AI 产业链投资节奏的关键。

从“训练”到“推理”：需求重心为何迁移

人工智能芯片是 AI 行业的基础层，为其提供算力支持。在大模型发展的早期阶段，算力需求高度集中于训练环节——即在大规模无标注数据上训练模型、学习特征和规则，这一过程对芯片的算力密度和规模要求极高。

随着大模型从云端走向千行百业，应用落地成为主线，推理环节的算力需求快速上升。所谓推理，即利用训练好的模型完成实际任务，例如生成内容、识别图像、理解语言等。相比训练，推理需求更加分散、高频，对芯片的功耗、时延和成本控制提出了不同要求。当大模型通过微调或直接应用进入各行业场景后，推理算力消耗的占比将持续提升，需求结构也随之迁移。

下游场景分化：云端、边缘与端侧的需求差异

大模型应用场景的多样化，直接驱动 AI 芯片需求结构的分层。不同场景对算力的规模、实时性和功耗要求差异显著：

场景类型需求特征芯片要求
云端训练大规模、高密度、长时间强算力、高吞吐、高带宽
云端推理高并发、响应快、成本敏感高能效比、低时延、灵活部署
边缘/端侧实时性、隐私性、离线可用低功耗、小体积、专用化

在云端，训练和推理继续依赖高性能芯片；而在边缘和端侧设备中，AI 应用对实时响应和隐私保护的要求，推动芯片向低功耗、专用化方向发展。大模型具备泛化能力强的特点，基于大模型进行应用开发，通过微调或直接使用即可完成多个场景任务，这有效降低了 AI 应用研发门槛，也加速了 AI 芯片在各类终端场景的渗透。

投资视角：算力产业链的长期价值

从产业链角度看，AI 芯片作为基础层，未来越来越多 AI 应用的落地都离不开庞大算力的支撑，因此也将推动算力产业链快速增长。国内 AI 大模型与海外差距已缩小，部分算力约束也会通过国产 GPU 或 ASIC 替代。在这一背景下，AI 芯片的国产化替代与推理场景的增量需求，构成产业链两条并行的成长主线。

需要指出的是，AI 芯片的需求结构演变是一个动态过程，训练与推理的比重变化受技术路线、应用成熟度等多重因素影响，具体节奏需结合后续产业数据持续跟踪。

常见问题

训练和推理对 AI 芯片的要求有何不同？

训练阶段追求的是极致算力和大规模并行处理能力，对芯片的算力密度和吞吐量要求极高；推理阶段则更关注能效比、时延和部署成本，尤其是当应用大规模落地后，推理芯片需要在保证性能的同时控制功耗和成本。

大模型走向行业应用，对芯片需求结构有什么影响？

大模型从云端走向千行百业，意味着 AI 应用从“开发期”进入“落地期”。应用端的高频调用将推动推理算力需求快速增长，使芯片需求结构从以训练为主，逐步向训练与推理并重迁移。这一趋势对芯片厂商的产品布局和产能分配具有方向性影响。

AI 芯片产业链哪些环节值得关注？

综合来看，AI 芯片作为基础层为其提供算力支持，是产业链中最值得关注的环节之一。此外，光模块（CPO 技术）作为光通信系统的核心器件，因 AI 技术对光通信带宽和传输速率提出更高要求，同样具备较强的产业活力。下游有优质应用场景的 C 端企业和有数据积累的 B 端企业，有望率先受益于 AI 赋能带来的降本增效。