为什么AI应用从模型训练转向Agent阶段会大幅改变CPU与GPU的配比？

AI应用向Agent阶段演进要求CPU承担海量复杂逻辑编排，导致系统中CPU与GPU的配比急剧上升。模型训练阶段计算密集，CPU与GPU配比约为1:8；但进入Agent阶段，系统需要处理多步推理、工具调用与实时交互，CPU负责统筹分发任务，配比大幅提升至约1:2。就像餐厅后厨，GPU是负责切菜炒菜的主厨，CPU是统筹订单、指挥上菜的前台经理。AI应用越智能，前台经理（CPU）要协调的复杂任务就越多。

NVIDIA最新Vera Rubin NVL72架构如何体现算力重构趋势？

NVIDIA Vera Rubin NVL72架构通过引入双路Grace CPU实现了GPU与CPU的深度耦合，彻底印证了算力重构趋势。该系统配置了72颗GPU与36颗CPU，CPU与GPU比例达到1:2。相比于过去纯GPU加速卡模式，这种异构系统设计成倍放大了通用计算节点比重。算力系统升级不再仅靠堆叠GPU数量，而是依赖异构算力系统的整机协同效率。

常见问题

在AI服务器中推理算力为何比训练算力更依赖CPU资源？

AI推理阶段面临海量并发请求，需要CPU进行数据预处理、内存管理和网络分发。推理场景下CPU与GPU配比提升至1:3，CPU承担的I/O调度负荷相比训练阶段增加超100%，消耗大量通用计算资源。

为什么算力重构背景下整机龙头比单一芯片厂商更具投资价值？

整机龙头具备主板设计与液冷散热等系统级整合能力。面对异构算力架构，散热功耗与数据传输延迟是核心瓶颈。具备整机协同能力的厂商在高端服务器市场的订单份额可提升超30%，具备更高壁垒。

投资异构算力产业链应重点关注哪些核心受益标的？

投资者应重点关注具备异构计算平台设计能力与高速互联技术的算力系统龙头股。在CPU配比大幅攀升的背景下，提供底层架构整合的服务器整机厂商利润率通常比单一组件供应商高约15%，产业核心受益确定性极强。

延伸阅读

• NVIDIA新架构大幅提升CPU占比，AI服务器CPU与GPU配比为何发生结构性反转？
• AI从训练走向Agent阶段推升CPU配比，基础设施算力系统的投资拐点是否已到来？
• 虚拟化平台迎来产业链重估，对比传统IT架构，AI基础设施对CPU配比要求的提升带来了哪些改变？