融合位置和实体类别信息的中文命名实体识别.pdfVIP

第51卷第3期/2025年3月/计算机工程研究论文

融合位置和实体类别信息的中文命名实体识别

杨竣辉，李苏晋

（江西理工大学信息工程学院，江西赣州341000）

摘要：词语作为一种上下文信息在中文命名实体识别(NER)任务中发挥着重要作用。以往基于字符的中文

NER方法虽然在一定程度上取得了成功，但仍存在词语信息嵌人方式简单、特征捕捉方式单一，且忽视了潜在词

的影响、未能充分利用词语信息的问题。针对上述问题，提出一种改进的中文NER方法。首先，通过基于全遮蔽

技术的预训练模型RoBERTa-WWm将文本表示为字符级嵌入向量；其次，使用门控空洞卷积神经网络(DGCNN)

模型进一步捕捉文本的特征信息；然后，在键值记忆网络（KV-MemNN)模型中采用位置实体类别组合机制

(PECM)更有效地融合词语信息并缓解潜在词冲突所带来的影响；最后，利用条件随机场(CRF)模型对预测结果

进行约束得到最佳标签序列。实验结果表明，该方法在Weibo、MSRA和Resume数据集上的F1值分别达到

71.82%、95.00%和96.14%，相比于融合词语信息的FLAT模型分别提升了11.50、0.88、0.69百分点，同时在不

同实体上的识别表现整体优于RoBERTa-wwm十CRF和LatticeLSTM模型。此外，通过预训练模型的对比和消

融实验进一步证明了KV-MemNN和RoBERTa-wwm模型的有效性。

关键词：命名实体识别；键值记忆网络；词语信息；位置信息；实体类别信息

中图分类号：TP391文献标志码：ADOI:10.19678/j.issn.1000-3428.0068741

ChineseNamedEntityRecognitionIntegratingPositionaland

EntityCategoryInformation

YANGJunhui,LISujin

(SchoolofInformationEngineering,JiangxiUniversityofScienceandTechnology,Ganzhou341000,Jiangxi,China)

[Abstract]WordsplayacrucialroleascontextualinformationinChineseNamedEntityRecognition(NER)tasks.

Althoughcharacter-basedmethodshaveachievedsomesuccess,existingmethodssimplisticallyembedword

informationandusealimitedfeaturecaptureapproach,overlookingtheinfluenceofpotentialwordsandfailingto

fullyutilizewordinformation.Toaddresstheseissues,thisstudyproposesanimprovedChineseNERmethod.

First,thepretrainedmodelusesafull-wordmaskingtechnique,knownasRoBERTa-wwm,torepresentthetext

ascharacter-levelembeddingvectors.Second,theDilatedGatedConvolutionNeuralNetwork(DGCNN)model

capturesadditionaltextualfeatures.Third,theKey-ValueMemoryNetwork(KV-MemNN)modelintroducesa

P