- 1、本文档共8页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
表1:网线、光纤、直连铜缆的对比
线缆类型
优点
缺点
使用场景
网线
价格低廉
安装方式简单
传输速率低
传输距离短
低成本要求下,电口互连可以选用网线,且目前六类、超六类网线也能达到较高速率。
光纤
传输容量大
传输速率高传输距离远抗干扰性好
部署成本高安装方式复杂对环境要求高
长距离、大容量、高可靠的数据传输要求下,可以选用光纤,并且全光网络是未来的趋势,可以支撑数据中心的未来演进。
直连铜缆
部署成本低
传输速率高抗干扰性好
传输距离短
长度固定,灵活性差
数据中心网络内部的短距离、高可靠的光接口互连,且部署成本比光纤更低.
资料来源:华为官网,
DAC电缆可分为两种类型:无源铜电缆(PCC)和有源DAC。有源DAC可以进一步分为有源铜线(ACC)和有源电缆(AEC)。无源和有源DAC电缆都可以通过铜线直接传输电信号。前者可以在没有信号调节的情况下进行传输,后者在
收发器内部配备了电子设备以增强信号。
ACC有源铜线作为一种有源铜线,利用Redriver芯片架构,并采用CTLE均衡来调整Rx端的增益。本质上,ACC的作用是作为一根有源电缆放大模拟信号。
AEC有源电缆代表了有源铜线电缆的一种更具创新性的方法,AEC利用Retimer芯片架构放大和均衡Tx和Rx端子,而且重塑Rx端子处的信号。
表2:AOC/DAC/AEC比较
类型
AOC
DAC(Passive)
AEC
400G传输距离
300m
3m
7m
800G传输距离
300m
2m
2.5m
功耗
高
低
低
费用
高
低
中等
重量
DAC重量的25%
带宽越高,导线资金越大,
重量越重
800GAEC质量仅为DAC
的25%
资料来源:CSDN,
英伟达GB200NVL使用铜缆连接SwitchTray和ComputeTray
GB200的前端、后端和带外网络基本相同,但NVLink扩展到机箱外部则会产生差异,每一代超大规模定制都会有所不同。
HGXH100中8个GPU和4个NVSwitch4ASIC使用PCB走线连接在一起,它们位于同一PCB(即HGX基板)。在HGXBlackwell上,NVSwitchASIC位于中间,以减少PCB走线的长度,同时224GSerDes进行了升级。
图2:HGXH100和HGXB100/B200对比
资料来源:semianalysis
但是在GB200上,NVSwitches与GPU位于不同的托盘上,因此需要使用光学或ACC在它们之间进行连接。
NVL72中保留了与HGXHopper/Blackwell相同的扁平1层NVLink拓扑,因此只需通过NVSwitch进行1跳(hop)即可与同一机架内的任何GPU通信。
而在NVL36x2中,只需1跳即可到达同一机架中36个GPU的任何一个,但为了与旁边机架中的其他36个GPU通信,需要2个NVSwitch才能跨机架。直观地看,一个额外的NVSwitch连接会增加延迟,但对于训练模型来说这个延迟并不明显。一个额外的NVSwitch连接会对推理运算产生轻微影响。
图3:GB200NVL36/72连接(Paladin)
资料来源:semianalysis
图4:GB200NVL72NVLink拓扑结构
资料来源:semianalysis
铜连接用量有望大幅提升
Nvidia表示,如果使用光模块,则需要为每个NVL72机架增加20kW的功耗。Semianalysis表示,如果需要使用648个1.6T双端口光模块,每个光模块的功耗约为30W,则功耗为19.4kW/机架,与Nvidia的说法基本相同。每个1.6T光模块的价格约为850美元,仅光模块成本一项就高达每机架550,800美元。如果按Nvidia75%的毛利率计算,则意味着最终客户需要为每机架NVLink收发器支付2,203,200美元。这是DGXH100NVL256因光模块成本过高而从未发货的主要原因之一。此外,与铜缆甚至上一代光纤相比,1.6TNVLink光模块等前沿光模块的可靠性要差得多。
因此,有源铜缆(ACC)铜缆更便宜、省电且可靠。每个GPU都有900GB/s的单向带宽。每个差分对(DP)能够在一个方向上传输200Gb/s,因此每个GPU需要72个DP才能实现双向传输。由于每个NVL72机架有72个GPU,这意味着有5184个差分对。每条NVLink电缆包
文档评论(0)