- 1、本文档共31页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
证券研究报告|行业深度
2024年05月16日
通信
AI时代的网络:需求从何而来,创新将走向何方?
网络是AI大模型时代的关键一环。大模型时代,我们已经开始看到光模块、
交换机等网络设备迭代加速,需求爆发。但市场对于为何显卡需要搭配大量
光模块,以及通信为何成为大模型痛点体会较浅。本文中,我们将从原理出
发,探讨网络为何成为AI时代的全新“C位”,并将从最新的产业变化中,
讨论未来网络侧的创新与背后的投资机会。
网络需求从何而来?进入大模型时代,模型体积和单卡上限之间的差距迅速
拉大,业界转而寻求多服务器集群来解决模型训练问题,这也构成了AI时
代网络“上位”的基础。同时,相较于过去单纯用于传输数据,如今网络更
多的用于同步显卡间的模型参数,对于网络的密度,容量都提出了更高要求。
日益庞大的模型体积:(1)训练耗时=训练数据规模x模型参数量/计算
速率(2)计算速率=单设备计算速率x设备数x多设备并行效率。当下,
业界对于训练数据规模和参数的双重追求下,唯有加速提升计算效率,才能
缩短训练耗时,而单设备计算速率的更新有其周期和限制,因此如何利用网
络尽可能的扩大“设备数”和“并行效率”直接决定了算力。
多卡同步的复杂沟通:在大模型训练过程中,将模型切分至单卡后,每经过
一次计算,单卡之间都需要进行对齐(Reduce、Gather等),同时,在
英伟达的通信原语体系NCCL中,All-to-All(即所有节点都可以互相获取值
并对齐)的操作较为常见,因此对网络之间的传输和交换提出了更高的要求。
愈发昂贵的故障成本:大模型的训练往往持续数月以上,而中间一旦发生中
断,需要回到几小时或者几天前的断点进行重新训练。而整个网络中某一个
软硬件环节的故障,或者过高的延迟,都有可能导致中断。更多的中断,代
表着落后的进度和愈发高昂的成本。现代的AI网络,已经渐渐发展成堪比
飞机、航母等的人类系统工程能力的结晶。
相关研究
网络创新将走向何方?硬件随需求而动,经过两年,全球算力投资规模已经
膨胀到数百亿美元级别,而模型参数的扩张,巨头的惨烈厮杀依然激烈。现1、《通信:光纤光缆行业:海风为盾、特种为矛》
如今,“降本”、“开放”和算力规模之间的平衡将是网络创新的主要议题。2024-05-14
通信介质的更迭:光、铜与硅是人类传输的三大介质,在AI时代,光模块2、《通信:OpenAI新品在即——全球算力及光模块景
追求更高速率的同时,也迈出了LPO、LRO、硅光等降本之路。在当前时间气加码》2024-05-12
点,铜缆凭借性价比,故障率等因素占领了机柜内连接。而Chiplet,3、《通信:特种光纤:始于通信,立足传感,赋能AI
Wafer-scaling等新半导体技术,则正在加速探索硅基互联的上限。与低空经济》2024-05-10
网络协议的竞争:片间通信协议与显卡强绑定,如英伟达的NV-LINK,AMD
的InfinityFabric等等,其决定了单台服务器或者单个算力节点的能力上限,
是非常残酷的巨头战场。而IB与网的斗争则是节点间通信的主旋律。
网络架构的变化:当下节点间网络架构普遍采用叶脊架构,叶脊具有便捷、
简单、稳定等特点。但随着单个集群节点数增多,叶脊稍显冗余的架构会给
超大集群带来较大的网络成本。当下,如Dragonfly架构,rail-only架构等
新架构有望成为面向下一代超大集群的演进方向。
投资建议:通信系统核心环节:中际旭创、新易盛、天孚通信、工业富联、
英维克、沪电股份。通信系统创新环节:长飞光纤、太辰光、源
杰科技、盛科通信-U、寒武纪、德科立。
风险提示:AI需求不及预期,Scalinglaw失效,行业竞争加剧。
2024年05
您可能关注的文档
- 电力设备行业市场前景及投资研究报告:海外变压器景气向上,中国企业出海加速.pdf
- 电力设备行业市场前景及投资研究报告:数字配网,新型电网生态,高景气赛道,储能.pdf
- 多任务学习选股模型的改进分析博爱高.pdf
- 福斯特-市场前景及投资研究报告-光伏景气底部,全方位优势,胶膜龙头.pdf
- 国家安全行业市场前景及投资研究报告:低空政策推进,产业加速发展.pdf
- 行业指数及成分股价格数据中的行业轮动信息分析报告.pdf
- 恒瑞医药-市场前景及投资研究报告-出海捷报频传,管线内项目.pdf
- 鸿日达-市场前景及投资研究报告:半导体散热片,横向拓展曲线.pdf
- 机械设备行业市场前景及投资研究报告:设备更新加速落地,流程工业受益.pdf
- 基于RSRS择时的中美核心资产配置组合分析报告.pdf
文档评论(0)