基于“产生判别”混合模型的分类器领域适应性问题研讨.pdfVIP

基于“产生／判别”混合模型的分类器领域适应性问题研究 刘康．赵军 中国科学院自动化研究所，北京100190 E—mail：{kliu，jzhao}@nlpr．ia．ag．c11 摘要：本文针对自然语言理解中的领域适应性问题，从领域概率分布的角度给出了一种摹于混合模型的领域适应t牛学习方 法，它可以把判别式模型和产生式模犁集成到一个模型当中。判别式模型比产生式模型有较好的分类效果，但是产生式模 型的优势在于在训练过程中可以较容易的弓i入非标注样本从而具有较好的推广性能。混合模型可以集中他们各自的优势。 对于领域适应性，我们的方法利用不同领域概率分布之间的的差异性，调节训练集中样本的枞重，从而使得训练得到的分 类器更加适应于目标领域。在多个NLP任务应用本方法得到的实验结果可以证明本方法的有效性，说明相对于传统监督学 习以及半监督学习的方法，本文方法有很大的优势，同时也证明了混合模型的方法要优于单个模型的方法。 关键词：领域适应性，混合模型，自然语言理解 on Generativeand Domain inNLPbased Adaptation Hybrid Model Zhao KangLiu，Jun of 1001 InstituteofAulomation，ChineseAcademySciences，Beijing90。China E—mail：{kliu，jzhao／@nlpr．ia．ac，cn for inthedistributionalview．A thedomain nature tasks Abstract：111isinvestigates adaptationproblem larIguage study processing which withthe methodis fordomain basedonthe model combinesthediscriminativemodel BoreI proposed adaptation hybrid the ofthe ofthediscriminativemedelistOhavelower error．while generative model．The asymptotic advantage generative advantage data modelcan thelr can theunlabeledforbeaer hategratc modeleasilyincorporate generalizationperformance．Thehybrid the