为什么AI大模型从训练走向Agent阶段会推升CPU需求？

AI发展从早期单纯的模型训练转向复杂的Agent（智能体）应用，直接导致通用算力需求激增。在Agent阶段，系统需要处理大量的逻辑调度、内存管理和多步工具调用。这就像从“单纯建造工厂”转向“组建复杂的物流和管理网络”，主导统筹的CPU承担了远超以往的工作负载，导致CPU在整体算力结构中的占比大幅攀升。

AI发展阶段与算力配比结构演变

英伟达Vera Rubin NVL72架构揭示了怎样的基础设施投资拐点？

英伟达发布的Vera Rubin NVL72系统明确配置了36颗CPU与72颗GPU，彻底打破了以往单一计算节点重GPU轻CPU的传统。这一官方硬件配置比例证实了异构计算中通用算力地位的提升，标志着AI算力基础设施投资重心向系统级均衡硬件转移的明确拐点。投资者应关注具备服务器整机制造与核心网络互联技术的底层基础设施企业。

常见问题

在AI算力集群采购中，CPU/GPU配比提升如何影响服务器的整体成本结构？

随着CPU/GPU配比从1:8向1:2提升，单台AI服务器中通用计算芯片及相关主板、内存组件的成本占比将显著增加。预算分配中CPU及周边组件的采购比重预计提升30%至50%，企业需重新评估算力基础设施的硬件预算结构。

为什么早期的AI训练集群不需要如此高的CPU/GPU算力配比？

早期AI模型训练主要是密集的矩阵乘法运算，任务高度单一且流水线化。这类纯粹的模型训练过程极少涉及复杂的逻辑分支判断与外部工具调度，主要由GPU进行大规模并行计算，因此对负责统筹管理的CPU算力需求极低。

面对Agent时代的算力拐点，算力投资者应重点关注哪些基础设施赛道？

投资者应重点关注支持高吞吐量数据调度的DPU/IPU芯片、支持大规模扩展的异构计算整机柜制造，以及低延迟无损网络通信设备。在1:2的配比趋势下，支持庞大CPU集群互联的高带宽网络设备需求预计将实现40%以上的强劲增长。

延伸阅读

• NVIDIA新架构大幅提升CPU占比，AI服务器CPU与GPU配比为何发生结构性反转？
• AI基础设施CPU与GPU配比大幅重构，算力系统升级背景下哪些标的将核心受益？
• 虚拟化平台迎来产业链重估，对比传统IT架构，AI基础设施对CPU配比要求的提升带来了哪些改变？