半导体行业跟踪报告之二十五:AI服务器驱动铜缆市场持续高景气,建议关注远东股份.docx

半导体行业跟踪报告之二十五:AI服务器驱动铜缆市场持续高景气,建议关注远东股份.docx

  1. 1、本文档共8页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

表1:网线、光纤、直连铜缆的对比

线缆类型

优点

缺点

使用场景

网线

价格低廉

安装方式简单

传输速率低

传输距离短

低成本要求下,电口互连可以选用网线,且目前六类、超六类网线也能达到较高速率。

光纤

传输容量大

传输速率高传输距离远抗干扰性好

部署成本高安装方式复杂对环境要求高

长距离、大容量、高可靠的数据传输要求下,可以选用光纤,并且全光网络是未来的趋势,可以支撑数据中心的未来演进。

直连铜缆

部署成本低

传输速率高抗干扰性好

传输距离短

长度固定,灵活性差

数据中心网络内部的短距离、高可靠的光接口互连,且部署成本比光纤更低.

资料来源:华为官网,

DAC电缆可分为两种类型:无源铜电缆(PCC)和有源DAC。有源DAC可以进一步分为有源铜线(ACC)和有源电缆(AEC)。无源和有源DAC电缆都可以通过铜线直接传输电信号。前者可以在没有信号调节的情况下进行传输,后者在

收发器内部配备了电子设备以增强信号。

ACC有源铜线作为一种有源铜线,利用Redriver芯片架构,并采用CTLE均衡来调整Rx端的增益。本质上,ACC的作用是作为一根有源电缆放大模拟信号。

AEC有源电缆代表了有源铜线电缆的一种更具创新性的方法,AEC利用Retimer芯片架构放大和均衡Tx和Rx端子,而且重塑Rx端子处的信号。

表2:AOC/DAC/AEC比较

类型

AOC

DAC(Passive)

AEC

400G传输距离

300m

3m

7m

800G传输距离

300m

2m

2.5m

功耗

费用

中等

重量

DAC重量的25%

带宽越高,导线资金越大,

重量越重

800GAEC质量仅为DAC

的25%

资料来源:CSDN,

英伟达GB200NVL使用铜缆连接SwitchTray和ComputeTray

GB200的前端、后端和带外网络基本相同,但NVLink扩展到机箱外部则会产生差异,每一代超大规模定制都会有所不同。

HGXH100中8个GPU和4个NVSwitch4ASIC使用PCB走线连接在一起,它们位于同一PCB(即HGX基板)。在HGXBlackwell上,NVSwitchASIC位于中间,以减少PCB走线的长度,同时224GSerDes进行了升级。

图2:HGXH100和HGXB100/B200对比

资料来源:semianalysis

但是在GB200上,NVSwitches与GPU位于不同的托盘上,因此需要使用光学或ACC在它们之间进行连接。

NVL72中保留了与HGXHopper/Blackwell相同的扁平1层NVLink拓扑,因此只需通过NVSwitch进行1跳(hop)即可与同一机架内的任何GPU通信。

而在NVL36x2中,只需1跳即可到达同一机架中36个GPU的任何一个,但为了与旁边机架中的其他36个GPU通信,需要2个NVSwitch才能跨机架。直观地看,一个额外的NVSwitch连接会增加延迟,但对于训练模型来说这个延迟并不明显。一个额外的NVSwitch连接会对推理运算产生轻微影响。

图3:GB200NVL36/72连接(Paladin)

资料来源:semianalysis

图4:GB200NVL72NVLink拓扑结构

资料来源:semianalysis

铜连接用量有望大幅提升

Nvidia表示,如果使用光模块,则需要为每个NVL72机架增加20kW的功耗。Semianalysis表示,如果需要使用648个1.6T双端口光模块,每个光模块的功耗约为30W,则功耗为19.4kW/机架,与Nvidia的说法基本相同。每个1.6T光模块的价格约为850美元,仅光模块成本一项就高达每机架550,800美元。如果按Nvidia75%的毛利率计算,则意味着最终客户需要为每机架NVLink收发器支付2,203,200美元。这是DGXH100NVL256因光模块成本过高而从未发货的主要原因之一。此外,与铜缆甚至上一代光纤相比,1.6TNVLink光模块等前沿光模块的可靠性要差得多。

因此,有源铜缆(ACC)铜缆更便宜、省电且可靠。每个GPU都有900GB/s的单向带宽。每个差分对(DP)能够在一个方向上传输200Gb/s,因此每个GPU需要72个DP才能实现双向传输。由于每个NVL72机架有72个GPU,这意味着有5184个差分对。每条NVLink电缆包

文档评论(0)

535600147 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

版权声明书
用户编号:6010104234000003

1亿VIP精品文档

相关文档