人工智能算力基础设施赋能研究报告（2025年）.docxVIP

人工智能算力基础设施赋能

研究报告

(2025年)

2025年11月

目录

一、人工智能算力基础设施演进态势 1

（一）技术创新：三位一体智算设施升级 1

（二）布局优化：全国智算设施协调发展 3

（三）产业升级：智算全产业链协同发展 4

二、人工智能算力基础设施赋能的重要走势 6

（一）需求场景逐步明晰，促使智算资源优配 7

（二）关键能力逐步聚焦，提升智算服务水准 7

（三）落地生态逐步聚和，加速智算价值释放 8

三、人工智能算力基础设施需求场景 8

（一）大模型预训练场景 9

（二）大模型微调场景 10

（三）大模型推理场景 11

四、人工智能算力基础设施关键能力 13

（一）基础支撑能力 14

（二）创新服务能力 17

（三）运营保障能力 19

五、人工智能算力基础设施落地生态 21

（一）智算与数据要素协同 22

（二）智算与模型算法协同 23

（三）智算与跨域智算协同 24

（四）智算与行业场景协同 25

（五）智算与区域产业协同 26

六、发展展望 28

（一）需求场景更加多元、复杂 28

（二）关键能力更加集约、软性 29

（三）落地生态更加聚合、协同 30

人工智能算力基础设施赋能研究报告（2025年）

1

一、人工智能算力基础设施演进态势

人工智能算力基础设施，是基于人工智能专用算力芯片及加速芯

片等组成异构计算架构，以智能计算设施为核心设施，以智能算力集

群为核心载体，面向人工智能应用场景，提供所需算力服务、数据服

务和算法服务的公共算力基础设施。大模型加速技术迭代与工程创新

步伐，对人工智能算力基础设施技术创新、布局优化、产业升级也提

出了更高阶的要求。

（一）技术创新：三位一体智算设施升级

当前，我国人工智能算力基础设施正处于系统性升级与架构演进

的关键时期，正加速向集约高效、低碳共生、高速泛在的融合形态纵

深发展，全面步入以超大规模集群化、绿色低碳化与高速互联化为核

心特征的新发展阶段。在顶层设计与政策引导协同驱动下，我国智算

中心规模持续扩大、技术体系日益自主、能效水平不断提升、互联能

力显著增强，逐步构建起支撑数字经济高质量发展和现代化产业体系

建设的算力底座。

超大规模集群化实现突破。超大规模集群指由万或超十万颗高性

能GPU/NPU/DPU/CPU等异构算力卡、HBM/DRAM/SSD等异构存

储单元构成的异构计算/存储集群，通过高速互联网络实现近乎线性

的算力扩展，以支撑千亿乃至万亿参数大模型的训练与复杂推理任务。

超节点作为智算集群化发展的关键技术之一，正逐渐成为行业焦点。

以华为昇腾384超节点为例，通过高速总线实现384卡高速总线互

联，跨节点通信带宽提升15倍，并通过全局内存统一编址技术，将

人工智能算力基础设施赋能研究报告（2025年）

2

分散在各节点的内存池虚拟为统一地址空间，支持跨节点直接内存访

问，配置8节点存储超节点集群，具备超大带宽、超低时延、超强性

能的三大优势。中兴通讯提出AI加速器高速互联开放架构，构建国

产化GPU卡大规模高速互联的系列Nebula星云智算超节点，支持

Scale-Up与Scale-Out双重扩展模式，高带宽域可扩展至2048卡，为

AI训练及推理场景提供软硬协同、开放解耦、高效高稳的算力底座。

绿色低碳化发展成效显著。当前AI爆发式增长带来巨大的算力

能耗挑战，人工智能算力基础设施的绿色低碳发展趋势正驱动商业模

式创新。绿色低碳不仅是用户选购智算中心及算力服务的重要考量，

也是企业服务方案的核心竞争力。目前业界广泛采用液冷、算电热碳

一体化、模块化建设及智能化运维等先进技术，持续优化智算中心能

效水平。中国移动长三角（苏州）云计算中心机房通过利用液冷技术，

使散热能耗降低50％～60％，数据中心PUE值降低至1.25以下。目

前主流冷板式液冷仍需风冷辅助散热，未来将通过优化冷板设计、推

广单相浸没式或全覆盖冷板液冷，逐步减少风冷依赖，提升单机柜功

率密度并简化数据中心架构。此外，在智算中心平台侧，可通过算力

编排管理系统、碳排放监测与统计平台等，适应不断变化的应用需求

和能效要求。

高速互联化加速探索。智算中心的发展不仅取决于单点算力性能，

更依赖于跨节点、跨地域的高效互联，分布式训练和跨中心协作成为

当前探索的技术热点领域。我国正通过构建“物理网络+虚拟网络”

双层协同技术体系，加快推进算力基础设施的高质量互联化发展，提

人工智能算力基础设施赋能研究报告（2025年）

3

升算力资源的整体效能。目前400G技术体系基本完善，我国