1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

分布式训练的通信方法、系统和相关设备.pdfVIP

  • 7
  • 0
  • 约2.11万字
  • 约 19页
  • 2023-09-07 发布于四川
  • 举报

分布式训练的通信方法、系统和相关设备.pdf

    本发明公开了一种分布式训练的通信方法、系统和相关设备，涉及分布式学习领域。分布式训练的通信方法，包括：中心节点生成下发数据包，其中，下发数据包包括中心节点更新后的模型的信息，并且下发数据包的分段路由头包括多个计算节点对应的段列表，其中的每个段列表包括相应的计算节点的地址以及训练指示；中心节点将下发数据包发送给下一跳设备。中心节点通过一次下发过程，即可使得多个计算节点获取到更新后的模型的信息。因此，本发明的实施例能够在分布式训练的过程中，降低对带宽的占用、节约资源，降低了分布式训练过程中的开销。

    (19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116708440 A (43)申请公布日 2023.09.05 (21)申请号 202310833774.1 (22)申请日 2023.07.07 (71)申请人 中国电信股份有限

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >