大规模特征集翻译系统判别式训练方法综述.pdfVIP

第 19卷 第4期 哈 尔 滨 理 工 大 学 学 报 Vo1．19 No．4 2014年8月 JOURNALOFHARBINUNIVERSnYOFSCIENCEANDTECHNOLOGY Aug．2014 大规模特征集翻译系统判别式训练方法综述 刘宇鹏 ， 马春光 ， 刘 水 ， 刘乐茂4， 赵石磊 (1．哈尔滨理工大学 软件学院，黑龙江 哈尔滨 150080；2．哈尔滨工程大学 计算机学院，黑龙江 哈尔滨 150001； 3．Baidu公司，北京 150086；4．哈尔滨工业大学 计算机学院，黑龙江 哈尔滨 150080) 摘 要：由于传统机器翻译是在小规模的开发集上进行训练的，这样不能很好的拟合数据．为 了更好的完成机器翻译任务，需要在大规模数据特征集合上进行训练，而且现在主流的机器翻译训 练算法是判别式的训练方法，本文从这两个角度出发，在更大机器学习的框架下对于机器翻译任务 进行建模，克服了原有机器翻译模型进行建模的时候数学抽象能力不够的问题，并从四个大的方面 分析了大规模特征集机器翻译 系统判剐式训练算法所面临的问题进行了分析，并从文献上给出了 相关问题的解决方法． 关键词：损失函数；大规模特征集；在线算法；正则化 中图分类号 ：TP391．2 文献标志码 ：A 文章编号 ：1007—2683(2014)04—0100—06 TheSummaryofDiscriminativeTrainingMethodof Large-scaleFeatureSet LIU Yu-peng ， MA Chun．guang ， Shui。 LIU Le—mac ， ZHAO Shi—lei ， (1．SoftwareEngineeringSchool，HrabinUniversityofTechnologyandScience，Hrabin150080，China； 2．ComputerScienceSchool，HarbinEngineeringUniversity，Harbin150001，China； 3．BaiduCorporation，Beijing150086，China； 4．ComputerScienceSchool，HrabinInstituteofTechnology，Hrabin150080，China) Abstract：Thetestprocedureisnotagoodfitfordatabecausemachinetranslation(MT)usessmall—scale developmentsetduringtrainingstage．InordertoimproveMTperformance，itrequirestrainingonthelarge—scale featureset，andweconsidertheadvantagesofdiscriminativeMT trainingalgorithm，SOthesummaryisfrom these twoaspects．ToovercometheshortcomingsofpoormathematicalabstractionofexistingMTmodel，weconstructa MTmodelthroughtheframeworkofmachinelearning．Weanalysethegenerallarge—scalefeaturestrainingprob— lemsinMT system from fouraspectsandthengivetheirsolutionsthroughpapersurvey． Keywords：lossfunct