原创力文档- 2
- 0
- 约1.99万字
- 约 16页
- 2024-02-07 发布于四川
- 举报
本发明属于智能电力信息处理领域，提供了一种电力工程现场轻量级审计事件识别方法、系统及设备，利用BERT模型解决电力审计场景下的特定文本识别任务，引入稀疏注意力机制和低秩前馈神经网络对BERT模型进行压缩，从而提升BERT模型对电力工程审计文本事件识别的响应速度；采用LoRA微调方式学习面向不同电力审计事件的增量识别信息，将LoRA微调后获取的各个模块作为压缩模型补充模块，从而提升压缩模型在电力工程审计任务中的识别精准度，并且仍然保持了模型的高效性和响应速度。
(19)国家知识产权局
(12)发明专利申请
(10)申请公布号CN117520802A
(43)申请公布日2024.02.06
(21)申请号202410021076.6G06N3/045(2023.01)
文档评论（0）