基于可靠词汇语义约束词语向量表达修正研究.PDFVIP

基于可靠词汇语义约束的词语向量表达修正研究 梁泳诗，黄沛杰，黄培松，杜泽峰 （华南农业大学数学与信息学院，广东广州 510642 ） 摘要：词语向量表达 （word vector representation ）是众多自然语言处理（natural language processing ， NLP ）下游应用的基础。已有研究采用各种词汇分类体系提供的词汇语义约束，对海量语料训练得到的词 向量进行修正，改善了词向量的语义表达能力。然而，人工编制或者自动构建的词汇分类体系普遍存在语 义约束可靠性不稳定的问题。本文基于词汇分类体系与词向量之间、以及异构词汇分类体系之间的交互确 认，研究适用于词语向量表达修正的可靠词汇语义约束提炼方法。具体上，对于词汇分类体系提供的同义 词语类，基于词向量计算和评估类内词语的可靠性。在其基础上，通过剔除不可靠语义约束机制避免词语 类划分潜在不够准确的词语的错误修正；通过不同词汇分类体系的交互确认恢复了部分误剔除的语义约束； 并通过核心词约束传递机制避免原始词向量不够可靠的词语在词向量修正中的不良影响。本文采用 NLPCC-ICCPOL 2016 词语相似度测评比赛中的PKU 500 数据集进