原创力文档- 1、本文档共11页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
(19)国家知识产权局
(12)发明专利申请
(10)申请公布号CN118612158A
(43)申请公布日2024.09.06
(21)申请号202410765510.1(51)Int.Cl.
H04L47/36(2022.01)
(22)申请日2024.06.14
H04L47/43(2022.01)
(71)申请人杭州质算科技有限公司H04L67/141(2022.01)
地址310000浙江省杭州市下城区环城北
G06F15/173(2006.01)
路169号汇金国际大厦西1幢1501室
申请人杭州幻方人工智能基础研究有限公
司
宁波积幂信息科技有限公司
杭州幻方科技有限公司
上海积幂科技有限公司
(72)发明人周尚彦张毅超张力越
(74)专利代理机构杭州之江专利事务所(普通
合伙)33216
专利代理师张慧英
权利要求书2页说明书6页附图2页
(54)发明名称
一种多GPU的RDMA通信方法
(57)摘要
本发明涉及计算机技术领域，尤其涉及一种
多GPU的RDMA通信方法，包括以下步骤：S101：注
册内存缓存区，并交换所述内存缓存区的信息，
建立RDMA连接；S102：确定报文切分大小，并对发
送报文进行切片，得到若干大小相同的报文切片
S103：采用受控的多GPU轮询发送，控制总体发送
在途报文切片数量小于等于预设在途最大切片
数，每个GPU在途报文切片数量根据预设服务质
量进行调整；S104：确认接收完成，本轮发送完
成。本发明的有益效果在于：减少了在节点内部
的数据复制，GPU之间的通讯更加高效，针对多
GPU通过一张网卡通信造成的网络拥塞情况，有
A了非常大的改善，更好的实现网络带宽的利用，
8提高通讯功能。
5
1
2
1
6
8
1
1
N
C
CN118612158A权利要求书1/2页
1.一种多GPU的RDMA通信方法，其特征在于包括以下步骤：
S101：注册内存缓存区，并交换所述内存缓存区的信息，建立RDMA连接；
S102：确定报文切分大小，并对发送报文进行切片，得到若干大小相同的报文切片；
S103：采用受控的多GPU轮询发送，控制总体发送在途报文切片数量小于等于预设在途
最大切片数，每个GPU在途报文切片数量根据预设服务质量进行调整；
S104：确认接收完成，本轮发送完成。
2.根据权利要求1所述的一种多GPU的RDMA通信方法，其特征在于在所述步骤S101中至
少包括一个发送节点和一个接收节点，并且均分别包括至少一个GPU；发送节点和接收节点
均配置RDMA协议网卡。
3.根据权利要求1‑2任一权利要求所述的一种多GPU的RDMA通信方法，其特征在于，所
述步骤S101中，发送节点和接收节点把要发送的内存注册为DMA‑buffer并作为内存缓存
区，并把该内存地址注册为RDMA的内存区MemoryRegion；所述内存缓存区信息为，内存缓存
区地址及秘钥。
4.根据权利要求1‑3任一权利要求所述的一种多GPU的RDMA通信方法，其特征在于，在
所述步骤S102中，所述报文切
文档评论（0）