（共102页PPT）大模型微调3使用量化技术削减模型体积.pptx

网络……

再谈网络

2025.12大模型量化

一、何为量化？为何量化？二、量化原理三、大模型量化的2种方法四、量化代码演示

一、何为量化？为何量化？一、何为量化？为何量化？

量化让模型变小了量化让推理和微调都变快了

LoRA的改进型rsLoRAAdaLoRALongLoRAQLoRA

LoRA的改进型rsLoRAAdaLoRALongLoRAQLoRA

LoRA的改进型QLoRA

LoRA的改进型QuantizedLoRA

量化什么是Quantize？

量化原始权重新权重计算量下降显存需求降低模型变小

如何计算显存需求？如何计算算力需求？

如何计算显存需求？如何计算算力