(45页PPT)模型压缩一.pptxVIP

  • 8
  • 0
  • 约4.8千字
  • 约 45页
  • 2026-06-03 发布于广东
  • 举报

模型压缩(一)1

CONTENTS目录模型压缩的必要性2压缩方法类别压缩模型Deeppression——剪枝

MODELPRESSION模型压缩的必要性伴随着神经网络的发展,高级卷积网络架构和transformers给视觉和语言领域任务带来的巨大提升的同时,模型的规模也越来越大虽然模型体积的增加往往能带来更好的预测性能,但是这也必然增加了模型开发和应用成本,甚至导致在现实业务场景中的可用性几乎为0模型压缩3

MODELPRESSION模型压缩的必要性更长的训练时间更长的推断时间更多的内存占用事实上当今度学习的应用都是在资源受限的设备上模型压缩4

MODELPRESSION模型压缩的必要性部署AI模型有两种方法:虽然在服务器上部署AI模型更容易,但它有几个缺点:模型在大规模使用时网络连接的可变性导致服务不可用或中断客户端隐私服务器成本实时服务的支持处理端远离数据源模型压缩5

MODELPRESSION模型压缩的必要性某著名企业端部署服务的障碍:通常深度学习模型的大小在数百MB的级别,比如VGG500MB;因此不能直接在手机上部署这么大的模型推断时间长,云服务的模型可以使用GPU进行推断,而手机的计算能力要低得多能耗效率——手机电池耗电严重模型压缩6

MODELPRESSION模型压缩的必要性学术界和工业界的模型压缩技术模型压缩的

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档