微调与量化联合训练技术概览及应用.pdf

微调与量化联合训练技术概览及应用.pdf

理论提纲

QAT感知量化微调

QLoRA量化低秩微调

蒸馏-量化协同训练

QAT与QLoRA联合训练

1.量化感知训练

常见量化方法(QuantizationMethods)

方法是否训练思想适用场景

PTQ(Post-Training

否模型训练后直接量化快速部署、小模型

Quantization)

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档