一种GPU通信方法、设备以及介质.pdfVIP

  • 0
  • 0
  • 约1.57万字
  • 约 16页
  • 2023-06-06 发布于四川
  • 举报
本发明公开了一种GPU通信方法,包括以下步骤:将每一个GPU上待传输的矩阵分解成子矩阵和压缩矩阵,其中每一个所述待传输的矩阵分解得到的所述压缩矩阵相同;使每一个GPU针对各自的子矩阵执行reduce操作,以使所述每一个GPU得到中间矩阵;对所述每一个GPU执行allgather操作,以使所述每一个GPU分别向其他所有GPU发送自身的所述中间矩阵;将所述每一个GPU接收到的若干个所述中间矩阵和自身的所述中间矩阵分别乘以所述压缩矩阵以得到最终矩阵。本发明还公开了一种计算机设备以及可读存储介质。本发明

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112765089 A (43)申请公布日 2021.05.07 (21)申请号 202011568020.0 (22)申请日 2020.12.25 (71)申请人 苏州浪潮智能科技有限公司

文档评论(0)

1亿VIP精品文档

相关文档