AI服务器元年，接口芯片核心受益.docx

AI 服务器前景广阔，接口芯片需求广泛 AIGC 大时代来临，ChatGPT 等大语言模型的推出，带动 AI 服务器需求量与日俱增。服务器行业由早期以传统服务器为主的市场格局，转变为传统服务器、云服务器、AI 服务器和边缘服务器四足鼎立。当下，AI 下游应用的持续火爆和算力要求的增加，AI 服务器需求与日俱增。据 TrendForce 数据，AI 服务器出货约 13 万台，占全球服务器出货约 1%，展望 2023年，Microsoft、Meta、Baidu 与 ByteDance 相继推出基于生成式 AI 衍生的产品服务而积极加单，预估 23 年 AI 服务器出货量年增率可望达 15.4%，且随着未来 ChatGPT 对 AI 服务器需求用量，预计 2023-2027 年 AI 服务器将以 12.2%年复合增速成长。 图1：2022-2027 年全球 AI 服务器出货量及增速 出货量（千台） yoy 250 200 150 100 50 0  2022 2023E 2024E 2025E 2026E 2027E  18% 16% 14% 12% 10% 8% 6% 4% 2% 0% TrendForce， 接口芯片在 AI 服务器数据传输中至关重要，需求将伴随服务器市场增长。在 AI 服务器需求增长的同时，针对于服务器内部之间或与其他设备的数据的传输、控制和管理等接口功能的要求也随之逐渐增加。服务器的升级与需求量提升也会带动接口芯片的增长。接下来，本文将具体从服务器内部互联，服务器外部接口两方面来梳理接口芯片行业情况。 服务器内部：组件高速互联，接口芯片不可或缺 以DXG H100 服务器为例，拆解服务器内部高速互联架构 DGX H100 于 2022 年推出，是 NVIDIA 的 DGX 系统的最新迭代产品，也是 NVIDIA DGX SuperPOD 的基础。DXG 服务器配备 8 块 H100 GPU，6400亿个晶体管，在全新的 FP8 精度下 AI 性能比上一代高 6 倍，可提供 900GB/s 的带宽。DGX H100 服务器内部架构如下图所示： 图2：英伟达 DGX H100 服务器内部芯片互联架构图 NVDIA 官网， 在 DGX H100 服务器内部，蓝色方块为 IP 网卡，既可充当网卡又可发挥 PCIe Switch 扩展功能，成为 CPU 与 GPU（H100）之间互联的桥梁。其内部采用 PCle 5.0 标准。此外，CX7 以网卡芯片的形式做成 2 块板卡来插入服务器，每 4 个 CX7 芯片组成一块板卡并且对外输出 2 个 800G OSFP 光模块口。 而 GPU（H100）之间互联主要通过 NV Switch 芯片来实现。每个 DGX H100 内的一个 GPU 向外伸出 18 个 NVLink ，单链双向带宽为 50 GB/s，共计 18*50GB/s=900GB/s 双向带宽，拆分到 4 个板载的 NV Switch 上去，因而每个 NV Switch 对应 4-5 个OSFP 光模块（共计 18 个）。每个 OSFP 光模块采用 8 个光通道，每个通道的传输速率为 100Gbps，因此总速率高达 800Gbps，能够实现高速的数据传输。 CPU、GPU 等组件互联：PCIE Switch、Retimer 芯片 PCIe 技术不断升级，速率持续提升 PCIe Switch 即PCIe 开关或PCIe 交换机，主要作用是实现PCIe 设备互联， PCIe Switch 芯片与其设备的通信协议都是 PCIe。由于 PCIe 的链路通信是一种端对端的数据传输，因此需要Switch 提供扩展或聚合能力，从而允许更多的设备连接到一个 PCle 端口，以解决 PCIe 通道数量不够的问题。 目前 PCIe Switch 不仅已经被广泛应用在了传统存储系统中，而且在部分服务器平台中也逐渐普及，用于提高数据传输的速度。 PCIe 总线技术升级，PCIe Switch 每代速率提升。PCIe 总线是 PCI 总线的高速串行替代品。2001 年，Intel 公布取代 PCI 总线的第三代 I/O 技术—— “3GIO”，2002 年该项技术经过 PCI 特殊兴趣组织（PCI-SIG）审核后正式改名为“PCI Express”，标志着 PCIe 的诞生。2003 年，PCIe 1.0 正式发布，可支持每通道传输速率为 250MB/s，总传输速率为 2.5 GT/s。2007 年 PCI-SIG 宣布推出 PCI Express Base 2.0 规范。在 PCIe 1.0 的基础上将总传输速率提高了一倍，达到 5 GT/s，每通道传输速率从 250