1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

显存管理、模型训练方法、装置、电子设备及存储介质.pdfVIP

  • 9
  • 0
  • 约2.6万字
  • 约 21页
  • 2023-06-08 发布于四川
  • 举报

显存管理、模型训练方法、装置、电子设备及存储介质.pdf

    本发明公开一种显存管理、模型训练方法、装置、电子设备及存储介质，该显存管理方法包括：获取模型的当前轮训练对应的显存阈值；在所述电子设备的显存占用值大于所述显存阈值的情况下，确定满足张量选择规则的目标张量；释放所述目标张量占用的显存。可见，实施上述方法，可以通过释放显存中不影响模型正常训练的张量，来减少GPU显存占用，而不需要提前获得整张计算图的全局信息，做到了完全动态，从而实现动态图机制的深度学习框架下的显存管理。

    (19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112882830 A (43)申请公布日 2021.06.01 (21)申请号 202110150321.X (22)申请日 2021.02.03 (71)申请人 北京迈格威科技有限公司

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >