一种基于预训练语言模型XLNet的测井曲线重构方法.pdfVIP

第35卷摇第2期计算机技术与发展Vol.35摇No.2

2025年2月摇摇摇摇摇摇摇摇摇摇COMPUTERTECHNOLOGYANDDEVELOPMENT摇摇摇摇摇摇摇摇摇摇Feb.摇2025

一种基于预训练语言模型XLNet的

测井曲线重构方法

曹茂俊,赵宇杰

(东北石油大学计算机与信息技术学院,黑龙江大庆163318)

摘摇要:在油田勘探开发过程中,测井曲线作为地球物理测井的第一手资料,能够真实反映地下空间的分布与特性。然

而,在实际工作中,由于井壁垮塌和仪器故障等原因,部分测井数据常常出现失真或缺失。为解决这一问题,该文提出了

一种基于预训练语言模型XLNet的测井曲线重构方法。该方法通过筛选地层地质岩性特征指数,获取高质量的训练样

本,并将其作为预训练模型重构测井曲线的依据。构建并训练带有预训练权重信息的XLNet模型,使模型具备对复杂地

层特性的理解和数据重构能力。在模型的构建与训练过程中,引入了预训练权重,并进一步结合了LoRA(Low-Rank

Adaptation)模块,以充分利用测井曲线之间的高度依赖关系,进而辅助XLNet生成和补全失真或缺失的测井数据。与已知

曲线重构模型:基于注意力表征的长短期记忆神经网络(LSTM-Attent)、双向门控神经网络(BiGRU)、TimesNet及XLNet相

比,基于预训练语言模型XLNet-LoRA的测井曲线重构模型具有更高的预测准确性。

关键词:测井曲线重构;深度学习;预训练语言模型;XLNet网络;LoRA机制

中图分类号:TP181摇摇摇摇摇摇摇文献标识码:A摇摇摇摇摇摇文章编号:1673-629X(2025)02-0183-08

doi:10.20165/j.cnki.ISSN1673-629X.2024.0321

AWellLoggingCurveReconstructionMethodBasedon

Pre-trainedLanguageModelXLNet

CAOMao-jun,ZHAOYu-jie

(SchoolofComputerandInformationTechnology,NortheastPetroleumUniversity,Daqing163318,China)

Abstract:Intheprocessofoilfieldexplorationanddevelopment,theloggingcurve,asthefirst-handdataofgeophysicallogging,can

trulyreflectthedistributionandcharacteristicsofundergroundspace.However,inpractice,duetoboreholecollapseandinstrument

failure,someloggingdataareoftendistortedormissing.Inordertosolvethisproblem,weproposealoggingcurvereconstruction

methodbasedonthepre-trainedlanguagemodelXLNet.Inthismethod,high-qualitytrainingsamplesareobtainedbyscreeningthefor鄄

mationgeologicallithologycharacteristicindex,whichisusedasthe