嵌入式人工智能与边缘计算第十二节模型量化实战43课件讲解.pptxVIP

嵌入式人工智能与边缘计算第十二节：模型量化实战主讲老师：杨淑君

CONTENTS目录模型量化核心思想“用精度换速度”01模型量化的两大类型训练后量化、量化感知训练02模型量化实战流程校准数据确定量化参数、格式转换等03模型量化关键技术点校准、量化粒度、算子支持、混合精度量化04本节课程总结模型量化核心思想、实战方法与流程、应用案例06模型量化应用案例移动端AI应用、智能摄像头、自动驾驶、物联网05

·核心思想：降低权重和激活值的数值精度，减少内存占用与计算量，实现模型推理加速，是典型的以微小精度损失换取高性能的策略。·量化原理：将32位浮点数映射到8位整数;通过确定缩放因子和零点，将浮