1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

一种用于边缘ai推理框架的内存调度方法.pdfVIP

  • 14
  • 0
  • 约1.23万字
  • 约 13页
  • 2023-07-05 发布于四川
  • 举报

一种用于边缘ai推理框架的内存调度方法.pdf

    本申请提供了一种用于边缘ai推理框架的内存调度方法，方法包括：根据深度学习模型，基于嵌入式硬件平台运行时权重载入行为，采用权重流水线加载方式；根据深度学习模型运行时的张量，对张量进行重新内存的重新分配。本申请提供的方法在系统层通过贪心算法对深度学习模型运行时张量内存占用进行内存绝对地址重排，优化内存占用；在框架层通过权重流水线式加载，实现模型权重内存时间维度上复用，压缩内存消耗。

    (19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 113806078 A (43)申请公布日 2021.12.17 (21)申请号 202110997535.0 (22)申请日 2021.08.27 (71)申请人 南京中科逆熵科技有限公司

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >