自然语言处理中列标注模型的研究.pdfVIP

中文摘要 随着近年来互联网等新兴媒体的快速发展，人类已经进入了信息爆炸的时 代。同时也越来越希望计算机能够理解人类的语言，以更好地帮助人类完成各 种日常工作。因此自然语言处理成为了近年来的研究热点。 而在自然语言处理中，序列标注模型是最常见的模型，也有着广泛地应用。 与一般分类问题不同的是，序列标注模型输出的是一个标签序列。通常而言， 标签之间是相互联系的，构成标签之间的结构信息。利用这些结构信息，序列 标注模型在序列标注问题上往往可以达到比传统分类方法更高的性能。 本文着眼于解决自然语言处理中复杂的序列标注问题，主要从两个方面对序 列标注模型做出了改进。 首先，针对常见的可分解为分段和标注两个子任务的复杂序列标注问题，我 们提出了双链序列标注模型。该模型中存在着两条相互联系的马尔科夫链。为 此我们提出了一个同时求解这两条链上最优序列的解码算法。同时利用这两条 链，针对不同的实际应用场景可以组合出不同的标注模型，使用不同的解码算 法完成实际的标注任务。为了能够适应不同的解码算法，我们还提出了一个能 够利用异构语料训练模型的参数学习算法。在多个语料上的实验表面，我们提 出的模型性能要优于其他模型，并能在同一个模型内完成多种标注任务。 其次，针对高阶标注模型的解码问题，我们提出了一个可以适应任意阶数的 精确解码算法。通过扩展解码过程中的状态，我们将高阶的标签解码过程统一 为一阶的状态解码过程。通过状态之间的转移约束，我们为每个状态进行编码， 并利用该状态编码能够快速地找到其合法的转移状态，以此达到搜索空间剪枝 的目的，提高解码效率。通过多个实验表明，我们的算法能够在不改变代码实 现的前提下，通过提高模型阶数提高标注性能。 中图分类号：TPl81 关键词：自然语言处理、序列标注、双链序列标注、高阶Viterbi算法 VII Withthe ofIntemetinrecent andmore rapiddevelopment years，more peoplehope that canunderstandnatural and themto the computers languageshelp improveefficiency ofthe works．Therefore，naturalbecomesoneofthehoRest daily languageprocessing research topics． Inthefieldofnatural modelis languageprocessing，sequencelabeling verypopular, and tosolve as widelyapplied manyproblems，suchchunking，part-of-speechtagging andSOon．Differentfromtraditional classification of problems，theoutputsequence modelisalabel withstructured ina labeling sequence areinterrelated．Withthe ofthesestructured label— sequence help information，sequence modelcouldachievebeRer thanthetraditionalclassificat