2025年大模型梯度稀疏化压缩习题答案及解析.docx

2025年大模型梯度稀疏化压缩习题答案及解析

一、单选题（共15题）

1.以下哪种技术主要用于解决大模型训练过程中梯度计算效率低的问题？

A.分布式训练框架

B.模型并行策略

C.知识蒸馏

D.稀疏激活网络设计

答案：A

解析：分布式训练框架通过将模型和数据分布在多个计算节点上，可以并行计算梯度，从而提高大模型训练的效率。参考《分布式训练框架技术指南》2025版4.2节。

2.在大模型参数高效微调中，LoRA（Low-RankAdaptation）和QLoRA（QuantizedLow-RankAdaptation）的主要区别是什么？

A.LoRA使用低秩分解，QL