2026年最新统计机器学习迁移学习考试练习试题及答案.docxVIP

  • 2
  • 0
  • 约7.15千字
  • 约 17页
  • 2026-10-20 发布于广西
  • 举报

2026年最新统计机器学习迁移学习考试练习试题及答案.docx

2026年最新统计机器学习迁移学习考试练习试题及答案

B.源域与目标域在共享表征空间的H散度

C.条件分布偏移的Wasserstein距离项

D.源域模型的VC维

答案:C。解析:传统迁移泛化理论将H散度作为分布偏移影响的核心度量,但2025年的最新理论结果证明,当条件分布偏移超过临界阈值时,Wasserstein条件距离项的权重为O(1),而H散度的权重为O(√(n_T/n_S)),当n_S远大于n_T(即小样本迁移场景)时,条件偏移项对泛化上界的贡献占比超过80%,是决定迁移效果的核心因素。

2.针对大语言模型参数高效迁移学习方法LoRA,2024-2025年的多项统计一致性研究证明,当低秩适配的秩r满足什么条件时,LoRA微调在目标域的泛化误差能够收敛到全参数微调的泛化误差水平()

A.r≥目标域下游任务数据的本征维数

B.r≥源域预训练数据的本征维数

C.r≥预训练模型注意力层总参数量的1%

D.r≥下游任务类别数

答案:A。解析:最新的统计结果表明,LoRA的低秩投影子空间只要覆盖下游任务数据表征的本征维数张成的子空间,其经验风险最小化解就和全参数微调的解处于同一统计等价类,二者的泛化差距不超过O(√(rlogd/n_T)),其中d为模型隐层维度;如果r低于本征维数,无论如何训练都无法达到全参数微调的性能上限,而r超过本征维数后继续增秩不会带来显著性能提升,反

文档评论(0)

1亿VIP精品文档

相关文档