量化库使用与模型重训技术指南.pdfVIP

目录

3.3.2不带Weight的层手动添加量化节点28

A缩略语30

2022-07-20v

插图目录

插图目录

图2-1量化流程4

图2-2安装报错CondaHTTPError5

图2-3查看已安装的环境版本6

图2-4安装whl文件7

图2-5Pytorch_patch代码差异对比7

图2-6训练引入hmct_pytorch模块7

图2-7Lenet网络定义8

图2-8Lenetmodule打印9

图2-9Lenet训练时生成的train_cong.json文件9

图2-10测试引入hmct_pytorch模块10

图2-11Lenetsample目录12

图2-12lenetsample帮助信息打印12

图2-13MobilenetV2sample目录结构12

图2-14mobilenetv2帮助信息打印13

图2-15确认添加的量化层是否符合预期17

图2-16重训生成的文件和量化参数17

图2-17Input写法检查18

图2-18GroupConvolution修改18

图2-19Cae中间结果功能19

图2-20指令仿与Cae中间结果比对20

图2-21重训后模型与未重训模型效率比对20

图2-22修改name21

图2-23多组场景21

图2-24多组场景22

图3-1报错信息图24

图3-2svp_qcong.py增加convtranspose2d算子支持25

图3-3添加convTranspose2d的开关26

图3-4torch\nn\modu\conv.py中为convtranspose2d新封装接口26

图3-5torch\quantization\default_mappings.py中增加算子映射27

图3-6torch\nn\qat\modu\__init__.py中增加ConvTranspose2d引入27

图3-7torch\nn\qat\modu\conv.py中增加nn.qat.