2023-AI超算互联网发展现状及产业链投资机会分析报告-40页.pdf

2023年深度行业分析研究报告

内容目录

1.AI超算互联网——算力的后周期市场7

2.云化/调优/调度——巨头战场，技术为骨，通信为魂9

2.1算力云化：算力租赁势起，被AI重定义的云计算9

2.1.1AGI时代到来，GPU算力需求爆发，云计算面临新挑战9

2.1.2DGXCloud发布，云算力进入GPU新时代11

2.1.3GPUVS比特币矿机——爆发的需求、紧缺的供给和极短的回款周期14

2.1.4现状：GPU禁令，国产算力进程加速，合理分配利用资源重要性突显14

2.1.5跨区域、跨集群、跨架构的算力调度调优能力日益重要16

2.1.6从比特币算力演变看AI算力发展19

2.2算力调优：大模型时代，通信即调优22

2.2.1算力调优是算力发展的终身课题22

2.2.2网络调优：算力调优的核心手段23

2.2.3现状：AI的网络新需求27

2.2.4未来：网络为主，可视化为辅29

2.2.5模型调优33

2.3算力调度：全局最强辅助35

2.3.1What-算力调度是什么35

2.3.2Where-算力在哪里调度35

2.3.3How-如何实施36

2.3.4Who-谁在参与37

3.软件服务——海外先行，百花齐放，部署先行38

3.1软件服务的三个方向：数据管理、模型落地、训练可视化38

3.1.1数据管理38

3.1.2模型落地38

3.1.3训练可视化40

3.2国内市场展望40

图表目录

图表1：超算互联网——算力的后周期7

图表2：BuymoreSaveMore的典型代表GH200芯片8

图表3：数据库巨头snowflake与英伟达达成合作8

图表4：云计算原理图9

图表5：CPU和GPU示意图9

图表6：CPU和GPU的对比9

图表7：英伟达h100集群10

图表8：英伟达DGXA100与DGXH100互联结构10

图表9：英伟达DGXCloud集群11

图表10：NVIDIADGX云人工智能软件堆栈12

图表11：NVIDIADGX与传统IaaS比较优势明显12

图表12：NVIDIADGX与传统IaaS比较优势明显13

图表13：英伟达10月23日提交给美国SEC的8-K文件14

图表14：新上美国实体清单的13家公司15

图表15：华为atlas900集群15

图表16：目前国内地区仍可通过订购云计算方式租用AI算力16

图表17：大模型训练四大挑战16

图表18：百度高性能AIPOD的高性能通信网络17

图表19：百度高性能AIPOD的高性能通信网络18

图表20：英伟达DGXGH200，256个GPU组成的完全连接的NVIDIANVLink交换机系统拓扑结构19

图表21：AIGC驱动全网内容大爆炸，个人唯有生成更多内容，方能获得更多用户注意力20

图表22：大语言模型参数的增长趋势20

图表23：比特币矿机芯片技术与挖矿模式发展历程21

图表24：三大算力调优措施针对解决不同的算力问题22

图表25：2019-2026中国通用算力规模及预测23

图表26：2019-2026中国智能算力规模及预测23

图表27：大模型发展下对分布式训练诉求提升24

图表28：PCIe6.0版本的带宽大幅提高24

图表29：PCIeSwitch架构25

图表30：OpenCAPI协议26

图表31：CXL协议26

图表32：DGXGH200架构图26

图表33：RDMA网络种类27

图表34：RoCE和InfiniBand比较27

图表35：大模型训练对网络的要求28

图表36：百度百舸平台任务可视化工具界面28

图表37：OpenAI将Kubernetes扩展到7500个节点29

图表38：DPFR本地快速收敛（上）和远端快速收敛（下）30

图表39：Wireshark