神经机器翻译中课程学习研究综述.pdfVIP

计算机科学与探索1673-9418/2025/19(02)-0334-10

JournalofFrontiersofComputerScienceandTechnologydoi:10.3778/j.issn.1673-9418.2403008

神经机器翻译中课程学习研究综述

+

胡春月，斯琴图，王斯日古楞

内蒙古师范大学计算机科学技术学院，呼和浩特010022

+通信作者E-mail:sqt@

摘要：课程学习作为一种新兴技术，近年来逐渐受到关注，它符合人类的学习习惯，由简到难、由浅至深。其核心

思想是让模型从简单的、基础的概念开始学习，逐渐过渡到更复杂、更高层次的内容。在神经机器翻译中，课程学习

作为一种训练策略，旨在帮助模型按照一定规律学习。课程学习现已被证明可以加速模型收敛，提高模型翻译质量

和稳定性。从机器学习的角度介绍了课程学习的定义及其基础框架，并进一步探讨了课程学习在神经机器翻译领

域中的应用。从样本难度评估与模型训练调度策略两个方面，详细阐述了预定义课程学习和动态课程学习两种方

法。预定义课程学习通过事先确定样本的难度顺序，引导模型从简单到复杂的任务逐步学习；而动态课程学习则依

据模型当前的学习状态动态调整样本的难度，提供了更灵活的训练方式。分析了课程学习在神经机器翻译领域的

未来研究趋势，并提出了三个值得进一步探索的研究方向。

关键词：课程学习；神经机器翻译；难度评估；训练调度

文献标志码：A中图分类号：TP391

SurveyofResearchonCurriculumLearninginNeuralMachineTranslation

+

HUChunyue,SIQintu,WANGSiriguleng

CollegeofComputerScienceandTechnology,InnerMongoliaNormalUniversity,Hohhot010022,China

Abstract:Curriculumlearning,asanemergingtechnology,hasgraduallyattractedattentioninrecentyears.Itisinline

withhumanlearninghabits,fromsimpletodifficult,fromshallowtodeep.Itscoreideaistoallowthemodeltolearn

fromsimpleandbasicconcepts,andgraduallytransitiontomorecomplexandhigher-levelcontent.Inthetranslationof

neuralmachines,curriculumlearningisatrainingstrategytohelpmodelslearninaccordancewithcertainlaws.Curricu-

lumlearninghasbeenproventoacceleratetheconvergenceofthemodelandimprovethequalityandstabilityofthemodel

translation.Thispaperfirstintroducesthedefinitionandbasicframeworkofcurriculumlearningfromtheperspectiveof

machinelearning,andfurtherexploresitsapplicationinthefieldofneuralmachinetranslation.Twoapproachesofcurric-

ulumlearning,namelypredefinedcurriculumlearninganddynamiccurriculumlearning,arediscus