一种基于动态DNN的推理方法、设备、存储介质.pdfVIP

  • 3
  • 0
  • 约1.04万字
  • 约 10页
  • 2024-02-07 发布于四川
  • 举报

一种基于动态DNN的推理方法、设备、存储介质.pdf

本发明涉及一种基于动态DNN的推理方法、设备、存储介质,方法包括如下步骤:针对目标动态DNN网络,通过子网结构搜索得到多个备选的静态子网;将所述多个备选的静态子网作为推理引擎的输入,完成所述目标动态DNN网络的训练,得到静态子网的网络参数以及对应的性能评价指标值;根据目标硬件设备的需求参数,从所述目标动态DNN网络中,选取性能评价指标值最优的静态子网作为优选的静态子网。与现有技术相比,本申请将动态DNN有效地部署在推理引擎上,将大大降低网络传输模型参数的压力和成本,有效延长硬件的寿命。

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN117521727A

(43)申请公布日2024.02.06

(21)申请号202311498276.2G06N3/126(2023.01)

文档评论(0)

1亿VIP精品文档

相关文档