AI大模型开发实战 教案 10大模型瘦身术：轻量化与部署优化.docx

一、课程概览

学时：90分钟（2×45′），多媒体教室。

先修：完成“医疗大模型”实训，会用PyTorch训练简单CNN并保存模型。

教学目标

知识：说出轻量化三支柱“量-馏-剪”；写出量化两步“校准→缩放”；列举边缘部署四策略“裁-量-加-推”。

能力：能把32位ResNet量化为INT8并drop模型大小60%；能用知识蒸馏训练一个小模型，Top-1精度保持≥80%。

情感：树立“绿色AI”观念——每毫瓦都有价值，每克碳都要负责。

教学重点：后训练静态量化、特征层蒸馏、结构化剪枝、低资源推理引擎选择。

教学难点：校准集代表性、蒸馏温度选取、剪枝后微调策略、