深层语义特征增强的ReLM中文拼写纠错模型.pdfVIP

JournalofComputerApplicationsISSN1001⁃90812025⁃08⁃10

计算机应用,2025,45(8):2484-2490CODENJYIIDUhttp://www.joca.cn

文章编号：1001-9081（2025）08-2484-07DOI:10.11772/j.issn.1001-9081.2024071015

深层语义特征增强的ReLM中文拼写纠错模型

12*23

张伟，牛家祥，马继超，沈琼霞

（1.湖北大学人工智能学院，武汉430062；2.湖北大学计算机学院，武汉430062；

3.烽火通信科技股份有限公司，武汉430073）

（∗通信作者电子邮箱202221116012652@stu.hubu.edu.cn）

摘要：ReLM（RephrasingLanguageModel）是当前性能领先的中文拼写纠错（CSC）模型。针对它在复杂语义场

景中存在特征表达不足的问题，提出深层语义特征增强的ReLM——FeReLM（Feature-enhancedRephrasingLanguage

Model）。该模型利用深度可分离卷积（DSC）技术融合特征提取模型BGE（BAAIGeneralEmbeddings）生成的深层语义

特征与ReLM生成的整体特征，从而有效提升模型对复杂上下文的解析力和拼写错误的识别纠正精度。首先，在

Wang271K数据集上训练FeReLM，使模型持续学习句子中的深层语义和复杂表达；其次，迁移训练好的权重，从而将

模型学习到的知识应用于新的数据集并进行微调。实验结果表明，在ECSpell和MCSC数据集上与ReLM、MCRSpell

（MetriclearningofCorrectRepresentationforChineseSpellingCorrection）和RSpell（Retrieval-augmentedFrameworkfor

DomainAdaptiveChineseSpellingCheck）等模型相比，FeReLM的精确率、召回率、F1分数等关键指标的提升幅度可达

0.6~28.7个百分点。此外，通过消融实验验证了所提方法的有效性。

关键词：自然语言处理；特征增强；中文拼写纠错；语义融合；文本纠错；预训练语言模型

中图分类号：TP391.1文献标志码：A

ChinesespellingcorrectionmodelReLMenhancedwithdeepsemanticfeatures

12*23

ZHANGWei，NIUJiaxiang，MAJichao，SHENQiongxia

（1.SchoolofArtificialIntell