20240328-湘财证券-半导体行业深度:AI加速器协同高速通信技术,加速AI创新发展.pdfVIP

  • 1
  • 0
  • 约3.92万字
  • 约 22页
  • 2024-04-01 发布于重庆
  • 举报

20240328-湘财证券-半导体行业深度:AI加速器协同高速通信技术,加速AI创新发展.pdf

证券研究报告2024年03月28日湘财证券研究所

行业研究半导体行业深度

AI加速器协同高速通信技术,加速AI创新发展

相关研究:核心要点:

1.《AI成长可期,需求复苏可望》❑训练端计算集群渗透率稳步提升,AI计算加速器需求上行

2023.12.24业界通常根据AI模型发展的关键节点,将人工大智能分为训练端

(Training)和推理端(Inference)。训练端的核心目标是训练出能够完成目标

任务的人工智能大模型产品。训练端AI大模型的参数持续增多,AI算

力平台从过去依赖单一计算机的算力逐渐演变为依赖计算集群,研究显

行业评级:增持示大模型的参数、样本数与训练大模型所需GPU卡数呈正相关关系;

大模型参数的增加会持续拉动AI计算加速器的需求。随着AI大模型训

练需求及模型参数的提升,AMD预计2023年至2027年全球用于数据

近十二个月行业表现中心的AI计算加速芯片市场规模的年均复合增速约为72.7%。

❑网络优化提升计算集群性能,Infiniband与RoCE方案市场渗透率提升

中国移动披露的数据显示大模型训练需要在不同的GPU网卡之间传递

大量参数和梯度信息,GPU通信时间占比达到50%以上,提升同一机器

内GPU与各硬件的传输效率、不同服务期间信息的传输效率对于大模

型训练效率的提升至关重要。GPU集群的跨服务器通信解决方案领域,

业界多采用InifiniBand和RoCE解决方案。其中RoCE网络方案的普及,

%1个月3个月12个月

或带动DPU崛起,赛迪顾问统计数据预计2020年至2025年我国DPU

相对收益-1.67-16.3-14.8

市场规模年均复合增速约为170%。

绝对收益-0.2-11.0-27.8

RoCE以太网正在向400GbE/800GbE升级演进;IDC发布的报告显示,

注:相对收益与沪深300相比

2023年全球数据中心领域200/400GbE交换机的收入同比增长68.9%,

DellOro预测2024年将是800GbE以太网部署的重要一年,预计到2027

年,400Gbps/800Gbps的端口数量渗透率将达到40%以上;带动高性

分析师:王文瑞能以太网交换机设备及以太网交换芯片需求增长。存储设备领域,

证书编号:S0500523010001NVMe-oF+NVMeSSD方案具有更高的性能、更低的延迟、更高的可扩

Tel:(8621)展性;MarketsAndMarkets预计受人工智能技术、物联网、数据安全等

Email:wangwr2@多种需求推动,2022年至2025年,NVMe市场规模年均复合增速达

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档