达到涌现阈值的大模型（单次训练算力约1.0e+23 FLOPs级别）训练成本可超1亿美元，其成本结构主要由算力硬件摊销、电力消耗、数据标注与人才薪酬四大部分构成。算力投入是最大单项成本，通常需数千至上万张高端GPU（如H100）连续训练约90天，GPU集群购置与折旧是成本主体；电力成本紧随其后，大模型训练集群功耗可达10MW量级，90天持续运行电费可观；数据标注需要大规模高质量标注数据，成本随模型参数量增长；顶尖AI人才薪酬同样构成重要支出，稀缺的算法工程师与研究员薪酬水平较高。
训练成本的核心构成
大模型训练成本随算力需求急剧攀升。当模型规模达到涌现阈值（约1.0e+23 FLOPs）时，典型训练配置需1万张H100级别GPU连续运行约90天，单次训练硬件摊销成本即达1-2亿美元。电力方面，10MW级集群90天满负荷运转的电费成本可达数千万美元。此外，数据清洗、标注与质量审核需要大量人力投入，而顶级AI研究团队的薪酬也占据相当比例。
成本下降路径
云厂商正通过自研AI芯片和液冷散热技术降低单位成本。自研芯片可优化算力密度与能效比，液冷方案则能显著降低数据中心电力消耗。同时，模型架构优化（如稀疏化、量化）也在减少训练所需算力，推动单位成本逐步下降。
常见问题
推理成本与训练成本相比如何？
推理成本通常低于训练成本，但随用户规模增长快速上升。 大模型上线后，每次推理请求仍需消耗GPU算力与电力，月活跃用户过亿时，推理集群的硬件与电费成本可能接近甚至超过单次训练成本。
API定价能覆盖成本吗？
目前多数大模型API定价尚未完全覆盖训练与推理成本。 头部厂商通过规模效应和硬件优化逐步降低单位成本，但行业整体仍处于“投入期”，定价更多反映市场竞争与用户获取策略，而非成本回收。
国内大模型成本与美国差距大吗？
国内大模型训练成本主要受GPU获取约束影响。 美国限制部分高端GPU出口，使得国内企业需通过国产GPU或ASIC替代，这在一定程度上增加了算力成本。不过，国内模型参数量（如百度文心大模型达2600亿参数）已接近海外水平，差距主要体现在算法原创性和算力效率上。