基于知识提示微调的标书信息抽取方法.pdfVIP

JournalofComputerApplicationsISSN1001⁃90812025⁃04⁃10

计算机应用,2025,45(4):1169-1176CODENJYIIDUhttp://www.joca.cn

文章编号：1001-9081（2025）04-1169-08DOI:10.11772/j.issn.1001-9081.2024030336

基于知识提示微调的标书信息抽取方法

1，21，2*

孙熠衡，刘茂福

（1.武汉科技大学计算机科学与技术学院，武汉430065；

2.智能信息处理与实时工业系统湖北省重点实验室（武汉科技大学），武汉430065）

（∗通信作者电子邮箱liumaofu@wust.edu.cn）

摘要：当前信息抽取任务主要依赖大语言模型（LLM），而标书信息中广泛存在领域术语，模型缺乏相关先验知

识，导致微调效率低且抽取性能不佳。此外，模型的抽取和泛化性能在很大程度上依赖于提示信息的质量和提示模

板的构建方式。针对上述问题，提出一种基于提示学习的标书信息抽取方法（TIEPL）。首先，利用生成式信息抽取的

提示学习方法对LLM注入领域知识，以实现预训练和微调阶段的统一优化；其次，以LoRA（Low-RankAdaption）微调

方法为框架，单独设计提示训练旁路，并设计标书场景关键词提示模板，从而增强模型信息抽取与提示的双向关联。

在自建的招中标数据集上的实验结果表明，相较于次优的UIE（UniversalInformationExtraction）方法，TIEPL的

ROUGE-L（Recall-OrientedUnderstudyforGistingEvaluation）和BLEU-4（BiLingualEvaluationUnderstudy）分别提高

1.05和4.71个百分点，能更准确和完整地生成抽取结果，验证了所提方法在提高标书信息抽取准确性和泛化性方面

的有效性。

关键词：生成式信息抽取；大语言模型；提示学习；LoRA微调；标书

中图分类号：TP391.1文献标志码：A

Tenderinformationextractionmethodbasedonprompttuningofknowledge

SUNYiheng1，2，LIUMaofu1，2*

（1.SchoolofComputerScienceandTechnology，WuhanUniversityofScienceandTechnology，WuhanHubei430065，China；

2.HubeiProvinceKeyLaboratoryofIntelligentInformationProcessingandReal-TimeIndustrialSystem，WuhanHubei430065，China）

Abstract:CurrentinformationextractiontasksmainlyrelyonLargeLanguageModels（LLMs）.However，