2025年大模型微调优化（含答案与解析）.docx

2025年大模型微调优化（含答案与解析）

一、单选题（共15题）

1.以下哪个分布式训练框架适用于大规模模型训练？

A.TensorFlow

B.PyTorch

C.Horovod

D.MXNet

答案：A

解析：TensorFlow框架提供了强大的分布式训练支持，适用于大规模模型训练。它通过TensorFlowDistributionStrategies可以有效地在多GPU、多机集群上并行训练。

2.在参数高效微调中，LoRA和QLoRA的区别主要在于：

A.模型大小

B.微调策略

C.实现复杂度

D.需要的额外内存

答案：B

解析：LoRA（Low-Ran