1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

张量卸载方法、装置、计算机设备及存储介质.pdfVIP

  • 3
  • 0
  • 约2.85万字
  • 约 21页
  • 2023-11-29 发布于四川
  • 举报

张量卸载方法、装置、计算机设备及存储介质.pdf

    本申请涉及一种张量卸载方法、装置、计算机设备及存储介质。所述方法包括：获取张量特征信息，所述张量特征信息包括待训练模型每层的显存容量需求、计算间隔以及计算延迟信息；基于预设卸载策略和所述显存容量需求确定显存约束条件，基于所述预设卸载策略和计算间隔确定卸载时间约束条件，所述预设卸载策略包括主存卸载和重计算卸载；基于所述显存约束条件和卸载时间约束条件筛选所述预设卸载策略，确定多个候选卸载策略；基于所述计算延迟信息确定每个候选卸载策略的额外计算延迟，基于所述额外计算延迟确定目标卸载策略，并基于所述目标

    (19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 117130693 A (43)申请公布日 2023.11.28 (21)申请号 202311397785.6 (22)申请日 2023.10.26 (71)申请人 之江实验室 地址 311121

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >