面向大模型的智算网络发展研究.pdfVIP

专栏：面向大模型的网络技术

面向大模型的智算网络发展研究

1,2121

郭亮，王少鹏，权伟，李洁

（1.中国信息通信研究院云计算与大数据研究所，北京100191；

2.北京交通大学电子信息工程学院，北京100044）

摘要：近年来，全球进入智能计算的蓬勃发展期，作为具有巨量参数和复杂结构的深度学习模型，大模型

训练需要在多卡、多服务器间实现训练参数的快速同步，所以对算力中心网络的带宽、时延、可靠性、可扩

展性和安全性等提出更高要求。研究了面向大模型训练的智算网络的需求和相关关键技术，对智算网络的研

究成果、标准规范和案例实践进行了分析，以期进一步促进智算网络的发展。

关键词：大模型；智算中心；网络技术

中图分类号：TP393

文献标志码：A

doi:10.11959/j.