任务自适应的BERT模型微调前截断式压缩方法.docx

任务自适应的BERT模型微调前截断式压缩方法.docx

毕业设计(论文)

PAGE

1-

毕业设计(论文)报告

题目:

任务自适应的BERT模型微调前截断式压缩方法

学号:

姓名:

学院:

专业:

指导教师:

起止日期:

任务自适应的BERT模型微调前截断式压缩方法

摘要:本文针对BERT模型在微调过程中存在的内存消耗大、训练时间长等问题,提出了一种基于任务自适应的BERT模型微调前截断式压缩方法。该方法通过分析不同任务的特点,对BERT模型进行针对性的截断,减少模型参数数量,降低模型复杂度。实验结果表明,与未压缩的BERT模型相比,本文提出的压缩方法在保证模型性能的同时,显著降低了模型的内存消耗

文档评论(0)

1亿VIP精品文档

相关文档