20230530-广发证券-电子行业AI硬件全景图：“AI的iPhone时刻”.pdfVIP

[Table_Page] 行业专题研究|电子 2023 年5 月30 日 证券研究报告 [Table_Title] “AI 的iPhone 时刻” AI 硬件全景图 [Tabl 分析师： 许兴军 分析师： 王亮 分析师： 耿正 e_Author] SAC 执证号：S0260514050002 SAC 执证号：S0260519060001 SAC 执证号：S0260520090002 SFC CE.no: BFS478 021 021 021 xuxingjun@ gfwangliang@ gengzheng@ 分析师： 张大伟 SAC 执证号：S0260523050001 021 zhangdawei@ 请注意，许兴军,耿正,张大伟并非香港证券及期货事务监察委员会的注册持牌人，不可在香港从事受监管活动。 [Table_Summary] 核心观点：  CHATGPT 开启AI 奇点，算力需求大幅提升。在各大厂商相继推出GPT 大模型，并积极赋能下游应用的背景 下，将引发模型训练和推理的算力需求的激增。根据我们的测算，在训练侧，训练一个 GPT-3.5 175B 模型的 NVIDIA A100 需求为1080 个、AI 服务器需求为 135 台；训练一个万亿参数量A I 大模型对A 100、A I 服务器 的需求分别为8521 个、1065 台。在推理侧，一个谷歌级应用使用GPT-3.5 175B 进行推理，对NVIDIA A100 需求为72 万个、对AI 服务器需求为9 万台；一个谷歌级应用使用万亿参数大模型进行推理，对NVIDIA A100 需求为378 万个、对AI 服务器需求为47.3 万台。根据测算结果，以2022 年AI 服务器出货量 14 万台为基数， 训练 100 个GPT-3.5 175B 模型对AI 服务器出货量的拉动为9.6%，10 个使用GPT-3.5 175B 模型的谷歌级推 理应用对全球AI 服务器出货量的拉动为643%。  算力需求推动AI 服务器增长，相关硬件步入黄金时代。相较于普通服务器，AI 服务器内部除了2 颗CPU 外， 一般还要配备4/8 颗GPGPU 以及一系列的相关配套芯片。其中，GPU 是AI 服务器中处理训练与推理的核心，