大语言模型训练与推理任务对数据中心网络流量模式的特征分析及其对光互连设计的影响.docxVIP

PAGE2

大语言模型训练与推理任务对数据中心网络流量模式的特征分析及其对光互连设计的影响

摘要

随着大语言模型（LLM）参数规模从百亿级向万亿级跨越，人工智能算力集群对数据中心网络的需求正在经历深刻重构。本报告聚焦大模型训练与推理任务产生的独特网络流量模式，系统剖析其对数据中心网络拓扑及光互连设计的影响。研究发现，以All-Reduce为代表的集合通信操作主导了训练阶段的流量，呈现出极高的瞬时带宽、严格低延迟及大象流并发特征，彻底颠覆了传统云数据中心东西向流量的泊松分布模型。

本报告从宏观环境、产业链现状、竞争格局到需求演变进行递进式分析。概况层面，明确了AI智算网络的定义边界及研究框架；环境与现状层面，指出算力国产化政策与算力需求爆发正双重驱动网络架构升级，光模块及高速线缆市场迎来爆发式增长；竞争与需求层面，揭示了网络通信耗时已占据大模型训练近30%至40%总时间的痛点，超大规模云厂商对无损网络与超高密度光互连的需求急剧攀升。

核心数据表明，2023年至2028年全球AI数据中心光模块市场规模年复合增长率将超35%，800G与1.6T光模块将加速渗透。趋势与机会层面，本报告预测无阻塞胖树拓扑及星融拓扑将成为主流，基于LPO（线性驱动直连光模块）与CPO（共封装光学）的光互连技术将迎来确定性增长机会。建议产业各方加快800G及以上高速光互连产品的研发迭代，优化网络拓扑以降低