2025年参数高效微调方法对比考题(含答案与解析).docx

2025年参数高效微调方法对比考题(含答案与解析)

一、单项选择题（每题3分，共30分）

1.以下参数高效微调方法中，通过在预训练模型的全连接层间插入可训练瓶颈层实现适配的是（）。

A.LoRA

B.Adapter

C.IA3

D.BitFit

答案：B

解析：Adapter方法的核心设计是在预训练模型的每一层（如Transformer的自注意力层或前馈层）后插入两个可训练的瓶颈层（降维层+升维层），仅微调这些新增层，原模型参数冻结。LoRA通过低秩矩阵分解替代全连接层的权重更新；IA3通过缩放向量调整前馈层和注意力层的输入；BitFit仅微调偏置项。