- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
行业研究报告AI算力跟踪深度(三):从英伟达的视角看算力互连板块成长性——ScaleUp网络的“ScalingLaw”存在吗?2025年8月20日
核心观点我们认为ScaleUp网络存在ScalingLaw,ScaleUp柜间第二层网络会逐渐出现,光+AEC连接多出与芯片1:9的配比需求,交换机多出与芯片4:1的配比需求,相较ScaleOut网络均倍增:1.英伟达持续扩大ScaleUp规模:英伟达正通过两大路径持续扩大ScaleUp网络规模。2)提升单卡带宽:NVLink持续迭代,NVLink5.0单卡带宽达7200Gb/s;2)扩大超节点规模:ScaleUp超节点规模不断扩大,从H100NVL8到GH200再到GB200等,NVL72等机柜方案可以提高训推效率,但并不是ScaleUp的上限,NVL72等机柜后续会作为最小的节点(Node)存在,像积木一样在柜与柜之间进一步拼出更大的ScaleUp超节点,届时需要光连接等进行通信。2.为什么需要ScaleUp网络:“内存墙”问题和AI计算范式演进推动ScaleUp网络升级。“内存墙”:单一大模型的参数量与单卡显存的差距(即模型内存墙)、单卡算力与单卡显存间的差距(即算力内存墙)均逐代放大,通过ScaleUp将显存池化。计算范式:为了提升计算效率,在进行数据并行、流水线并行的同时也采用张量并行与专家并行,后者对通信频次、容量的要求都跨越数量级。1
核心观点3.为什么需要更大的ScaleUp网络:TCO、用户体验、模型能力拓展。随着单用户每秒消耗的Token数(TokensPerSecond,TPS)提高,包括NVL72在内的现有服务器单卡性能都会逐渐坍缩,在用户体验持续提升、模型能力拓展的趋势下,单用户TPS必然增长,采用更大规模的ScaleOut能提高单卡有效性能,TCO也更具经济性。我们认为ScaleUp规模与预期单用户TPS、单卡实际性能间存在ScalingLaw,前者会随后者非线性增长。4.怎么组建更大的ScaleUp网络:网络结构层面,在柜间搭建第二层ScaleUp交换机;端口连接层面,光与AEC有望在第二层网络中并存,按照最新的NVLink与IB标准测算,1颗GPU需要9个额外的等效1.6T连接,为ScaleOut网络的3-4.5倍,每4颗GPU需要额外1台交换机,为ScaleOut网络的7.5-12倍。投资建议:我们认为ScaleUp需求有望持续拓展,带来倍增的网络连接需求,光连接、AEC、交换机等环节都有望深度受益,相关标的——光互连:中际旭创,新易盛,天孚通信,光库科技,长芯博创,仕佳光子,源杰科技,长光华芯,太辰光;铜互连:中际旭创,兆龙互连;交换机:锐捷网络,盛科通信,AsteraLabs(美股,后同),博通,天弘科技,Arista风险提示:算力互连需求不及预期;客户处份额不及预期;产品研发落地不及预期;行业竞争加剧。2
核心观点我们认为后续算力互连需求发展存在乘数效应:?资本开支结构优化,算力芯片增长速度高于资本开支增速?单芯片带宽提升,算力互连需求增速高于芯片需求增速?芯片需求=CapE×算力芯片投资在CapEx占比×芯片投资性价=芯片需求×单芯片带宽?算力互连需求AI算力互连需求的“乘数效应”(纵轴取对数)3资料:东吴证券研究所
目录英伟达持续扩大ScaleUp规模为什么需要ScaleUp网络为什么需要更大的ScaleUp网络怎么组建更大的ScaleUp网络投资建议及风险提示4
1.英伟达持续扩大ScaleUp规模5up
1.1英伟达持续尝试扩大ScaleUp规模VRNVL144(72GPU)NVL576(144GPU)?英伟达从单卡带宽与超节点规模两个路径升级ScaleUp;?NVLink跟随每一代GPU架构进行升级,目前最新用于B系列GPU的NVLink5.0可支持单卡7.2Tb的带宽,相较用于H100的NVLink4.0带宽翻倍;GB系列NVL72?ScaleUp超节点规模在H100之后经历了GH200、GB200等方案,从NVL8拓展至NVL72甚至更高,这个扩展路径是复杂但必需的。GH200NVL256历代NVLink版本1.0年份20162017202020222024GPU架构Pascal每链接带宽(Gb/s)链接数总带宽(Gb/s)16020020040080046402.0Volta612002400360072003.0AmpereHopperBlackwell121818H100NVL84.05.06资料:英伟达,东吴证券研究所
1.2H100NVL8到GH200NVL256:前瞻但过于激进的一步?英伟达
您可能关注的文档
- 全文可编辑-2025年医美赛道行业趋势分析报告.ppt
- 全文可编辑-2025年银行业投资策略分析报告:业绩压力拐点,盈利能力强区域行.ppt
- 全文可编辑-2025年隐形眼镜(美瞳)行业市场前景及投资研究报告:电商趋势.ppt
- 全文可编辑-2025年有色金属行业市场前景及投资研究报告:标杆企业组织效能,价格周期上行,资源瓶颈,智造转型.ppt
- 全文可编辑-2025年孕婴童行业市场前景及投资研究报告.ppt
- 全文可编辑-2025年啫啫煲品类发展分析报告.ppt
- 全文可编辑-2025年职场健康需求分析报告:更贴心的福利,更强大的团队.ppt
- 全文可编辑-2025年中国白酒行业市场前景及投资研究报告:高端量价双增,次高端调整周期.ppt
- 全文可编辑-2025年中国茶饮行业市场前景及投资研究报告.ppt
- 全文可编辑-2025年中国调味品行业市场前景及投资研究报告:连锁餐饮,定制化复合调味料.ppt
- 全文可编辑-Al医疗健康行业市场前景及投资研究报告:AI科技勾勒医疗未来蓝图.ppt
- 全文可编辑-API经济时代分析报告:面向未来竞争力的关键,API管理设计实践.ppt
- 全文可编辑-A股投资策略分析报告:增强价值风格的逻辑.ppt
- 全文可编辑-A股退市新规实施后风险警示和退市情况分析报告.ppt
- 全文可编辑-Brand KPIs for DIY & garden online shops: Stabilo in Germany-英文培训课件2025.ppt
- 全文可编辑-Brand KPIs for DIY & garden online shops: Steiner Shopping in Germany-英文培训课件2025.ppt
- 全文可编辑-Brand KPIs for DIY & garden online shops: Suttons in the United Kingdom-英文培训课件2025.ppt
- 全文可编辑-Brand KPIs for DIY & garden online shops: Suvinil in Brazil-英文培训课件2025.ppt
- 全文可编辑-Brand KPIs for DIY & garden online shops: Telhanorte in Brazil-英文培训课件2025.ppt
- 全文可编辑-Brand KPIs for DIY & garden online shops: TEMU in the United States-英文培训课件2025.ppt
文档评论(0)