- 8
- 0
- 约4.8千字
- 约 45页
- 2026-06-03 发布于广东
- 举报
模型压缩(一)1
CONTENTS目录模型压缩的必要性2压缩方法类别压缩模型Deeppression——剪枝
MODELPRESSION模型压缩的必要性伴随着神经网络的发展,高级卷积网络架构和transformers给视觉和语言领域任务带来的巨大提升的同时,模型的规模也越来越大虽然模型体积的增加往往能带来更好的预测性能,但是这也必然增加了模型开发和应用成本,甚至导致在现实业务场景中的可用性几乎为0模型压缩3
MODELPRESSION模型压缩的必要性更长的训练时间更长的推断时间更多的内存占用事实上当今度学习的应用都是在资源受限的设备上模型压缩4
MODELPRESSION模型压缩的必要性部署AI模型有两种方法:虽然在服务器上部署AI模型更容易,但它有几个缺点:模型在大规模使用时网络连接的可变性导致服务不可用或中断客户端隐私服务器成本实时服务的支持处理端远离数据源模型压缩5
MODELPRESSION模型压缩的必要性某著名企业端部署服务的障碍:通常深度学习模型的大小在数百MB的级别,比如VGG500MB;因此不能直接在手机上部署这么大的模型推断时间长,云服务的模型可以使用GPU进行推断,而手机的计算能力要低得多能耗效率——手机电池耗电严重模型压缩6
MODELPRESSION模型压缩的必要性学术界和工业界的模型压缩技术模型压缩的
您可能关注的文档
- (45页PPT)单元研习任务3.pptx
- (45页PPT)第1课时两边及其夹角分别相等的两个三角形.ppt
- (45页PPT)第9章·素养综合检测 化学与社会可持续发展.pptx
- (45页PPT)第33课《念奴娇·赤壁怀古》课件学年中职高一语文新教材同步教学讲堂.pptx
- (45页PPT)第二节熔化与凝固.pptx
- (45页PPT)第四节典型结构的欣赏广东教育出版社四节典型结构的欣赏课件.pptx
- (45页PPT)观潮第一课时.pptx
- (45页PPT)人教版高中历史必修2第四单元第13课对外开放格局的初步形成课件.ppt
- (45页PPT)三角形中边的关系.ppt
- (45页PPT)奢侈品管理概论教学课件第二章奢侈品产业经营者管理.ppt
- 《设备控制处处在》教学课件-2026-2027学年华中科大版(新版)小学信息科技六年级全一册.pptx
- 部编语文二年级上册句子总复习.pptx
- 《通过反馈知效果》教学课件-2026-2027学年华中科大版(新版)小学信息科技六年级全一册.pptx
- 《我是小小控制员》教学课件-2026-2027学年华中科大版(新版)小学信息科技六年级全一册.pptx
- 《开关量的真与假》教学课件-2026-2027学年华中科大版(新版)小学信息科技六年级全一册.pptx
- 部编版语文三年级上《礼物》.pptx
- 退货跨班周期维护问题复盘与改进跟踪.docx
- 退货跨班任务分派与班前准备核对单.docx
- 退货跨班资料追溯与责任交接单.docx
- 退货逆向物流结果复核与验收确认记录表.docx
原创力文档

文档评论(0)