- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
第19卷第1期智能系统学报Vol.19No.1
2024年1月CAAITransactionsonIntelligentSystemsJan.2024
DOI:10.11992/tis.202306042
网络出版地址:/urlid/23.1538.TP1655.002
神经网络压缩联合优化方法的研究综述
1231411
宁欣,赵文尧,宗易昕,张玉贵,陈灏,周琦,马骏骁
(1.中国科学院半导体研究所,北京100083;2.合肥工业大学微电子学院,安徽合肥230009;3.中国科学院前
沿科学与教育局,北京100864;4.南开大学人工智能学院,天津300071)
摘要:随着人工智能应用的实时性、隐私性和安全性需求增大,在边缘计算平台上部署高性能的神经网络成
为研究热点。由于常见的边缘计算平台在存储、算力、功耗上均存在限制,因此深度神经网络的端侧部署仍然
是一个巨大的挑战。目前,克服上述挑战的一个思路是对现有的神经网络压缩以适配设备部署条件。现阶段
常用的模型压缩算法有剪枝、量化、知识蒸馏,多种方法优势互补同时联合压缩可实现更好的压缩加速效果,
正成为研究的热点。本文首先对常用的模型压缩算法进行简要概述,然后总结了“知识蒸馏+剪枝”、“知识蒸
馏+量化”和“剪枝+量化”3种常见的联合压缩算法,重点分析论述了联合压缩的基本思想和方法,最后提出了
神经网络压缩联合优化方法未来的重点发展方向。
关键词:神经网络;压缩;剪枝;量化;知识蒸馏;模型压缩;深度学习
中图分类号:TP181文献标志码:A文章编号:1673−4785(2024)01−0036−22
中文引用格式:宁欣,赵文尧,宗易昕,等.神经网络压缩联合优化方法的研究综述[J].智能系统学报,2024,19(1):36–57.
英文引用格式:NINGXin,ZHAOWenyao,ZONGYixin,etal.Anoverviewofthejointoptimizationmethodforneuralnetwork
compression[J].CAAItransactionsonintelligentsystems,2024,19(1):36–57.
Anoverviewofthejointoptimizationmethodfor
neuralnetworkcompression
1231
NINGXin,ZHAOWenyao,ZONGYixin,ZHANGYugui,
411
CHENHao,ZHOUQi,MAJunxiao
(1.InstituteofSemiconductors,ChineseAcademyofSci
- 1.ppt制作及优化;2.办公模板制作;3.文案制作及优化。 + 关注
-
实名认证服务提供商
教师资格证、公共营养师持证人
本人专注ppt制作、办公模板编辑六年有余,可以根据客户需求做出高品质ppt、办公表格等模板,以及文案等。
文档评论(0)