利用数据增强和对抗训练策略提升mT5预训练模型在文言文翻译中的作用分析.pdfVIP

中文科技期刊数据库（引文版）工程技术

利用数据增强和对抗训练策略提升mT5预训练模型在文

言文翻译中的作用分析

陈灏源

北京理工大学珠海学院，广东珠海519000

摘要：本研究使用数据增强和对抗训练策略,基于mT5预训练模型实现中文到文言文的自动翻译。针对训练数据

稀缺问题,我们收集并扩充了大量现代汉语与古代汉语平行语料库。模型在文言文翻译任务上表现出色,数据增强

后,1-gramBLEU、CHRF和Rouge得分分别提升了4.27%,2.3%,和2.16%。引入对抗训练策略后,模型性能得到进一

步提升。同时,我们设计并部署了一个带图形用户界面的Web应用。总体而言,本研究展示了数据增强和对抗训练

在预训练模型中的潜力,并通过扩大数据量和优化训练策略,提升了模型的泛化能力和翻译性能。

关键词：mT5；模型；Transformer；对抗训练策略；平行语料库；数据增强；Web

中图分类号：G633

0引言联网上的文言文-现代文平行语料,并通过数据增强技