一种模型压缩部署方法、装置、服务器及存储介质.pdfVIP

  • 3
  • 0
  • 约1.88万字
  • 约 15页
  • 2023-09-20 发布于四川
  • 举报

一种模型压缩部署方法、装置、服务器及存储介质.pdf

本申请公开一种模型压缩部署方法、装置、服务器及存储介质,涉及模型处理技术领域,能够解决如何根据用户的部署需求确定最优的压缩优化方法的问题。具体方案包括:获取待压缩模型和待压缩模型的压缩需求信息,调用预设的第一估计函数,对待压缩模型的模型指标进行估计,得到第一指标;第一估计函数用于预测待压缩模型经过知识蒸馏处理后的模型指标,模型指标包括模型大小、参数量、计算量和仿存量;根据第一指标、预设的惩罚因子和预设值,确定第一指标对应的模型在待部署设备上的第一处理速度;根据第一处理速度和部署设备的处理速度,确

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116776953 A (43)申请公布日 2023.09.19 (21)申请号 202310715204.2 G06N 3/08 (2023.01) (22)申请日 2023.06.1

文档评论(0)

1亿VIP精品文档

相关文档