基于U-Net网络的成像测井图像修复方法研究

曹茂俊,冯 昊

(东北石油大学 计算机与信息技术学院,黑龙江 大庆 163318)

0 引 言

微电阻率成像测井通过将电极板推向井眼,可以测量井眼周向的电导率,并通过彩色标记标定得到井眼周向的二维图像,可以清晰地表征地层裂缝、层理、溶洞、韵律等沉积与储层信息,具有常规测井无法比拟的优势,在解释评价油气储层方面发挥着越来越重要的作用[1]。然而,在实际测井过程中,由于电子线路故障及电缆的弹性和仪器在井下所受的各种阻塞作用,成像测井图像有时会出现“坏极板”现象,使得测得的某极板电扣曲线部分缺失,这将导致缺失的部分井眼区域在成像测井图像中呈现上下连通缺失,不利于后续成像测井图像的解释。因此,为了提供完整的地质信息,必须要对成像测井图像进行修复。

为了更好地填充成像测井图像的缺失部分,该文提出基于改进U-Net卷积神经网络的成像测井图像修复方法。在样本预处理过程中对图像进行标注,生成掩膜图像,模型引入可学习的双向注意力图模块,用于学习特征再规范化和掩码(mask)更新,得益于端到端的训练,可学习的双向注意力图模块能够有效地适应上下连通形状的缺失和卷积层的传播。以大庆油田某工区水平井成像测井数据为例,根据已知水平井的成像测井图像通过使用基于改进U-Net卷积神经网络方法修复缺失的区域。

1 预备知识

1.1 传统U-Net卷积神经网络

2015年由Long等人[2]在卷积神经网络CNN基础上进行改进,提出全卷积神经网络FCN。FCN为使输出图像的尺寸大小与输入时相同,实现网络端到端的训练,在模型中使用卷积层替代CNN的全连接层,对特征图进行上采样,恢复原图尺寸。FCN证明了卷积神经网络采用端到端、像素到像素的训练方式在语义分割的计算效率和预测性能方面有较明显的效果提升,为后续图像识别、图像修复的发展提高了研究方向和思路。

而传统U-Net网络是由Ronneberger等人[3]在全卷积神经网络FCN的架构基础上改进得到的一种较FCN更加轻量的网络模型,其网络结构由编码器(下采样)和解码器(上采样)两部分组成[4-5]。编码器下采样模块包含4个下采样层,对于每一层网络进行下采样操作后,特征图通道数翻倍,但尺寸大小减半。每层下采样均包含2个3*3的卷积核及1个2*2的最大池化层,同时采用ReLU作为激活函数。解码器模块与编码器模块相似,区别在于解码器模块为上采样操作,用于修复图像和恢复图像尺寸,在最后一层中用1个大小为1*1的卷积核,其主要作用是将特征向量可以与输出层进行映射。传统U-Net模型结构如图1所示。

图1 传统U-Net网络架构

1.2 混合空洞卷积

空洞卷积[6]又名扩张卷积,最先见于语义分割任务中,主要用于在图像分割算法中使用卷积层和池化层来增加感受野,相较于标准卷积,空洞卷积会有一个用于调整卷积核的感受野来捕获多尺度信息的超参数,被称作扩张率。该文所需数据为图像,在此只讨论二维空洞卷积。

当K为3*3的卷积核时,二维空洞卷积的感受野会随着扩张率的不同而变化。经过空洞卷积计算后,可以得到输出图像的尺寸计算形式为：

K'=(K-1)×(d-1)+K

(1)

(2)

其中,d为扩张率,K为初始卷积核大小,o为输出特征图尺寸,i为输入图像尺寸,K'为卷积核大小,P为padding大小,S为步长大小,d为扩张率。

但是由于空洞卷积的计算参数来自类似棋盘格式的平面,在计算层与层之间的卷积结果时,层间的相关性会很弱,因此会有丢失局部信息的情况发生;并且由于空洞卷积拥有扩张率这个超参数,使得采样输入信号具有稀疏性,当扩张率较大时经过卷积得到的特征信息之间的关联性较低,最终影响图像缺失区域的修复效果。为弥补空洞卷积存在的不足,该文采用混合空洞卷积替代标准空洞卷积。混合空洞卷积具有以下特性：(a)在提取多尺度图像信息时,设置卷积的扩张率在叠加时不能有比1大的公约数,以便提高图像信息之间的连续性;(b)为能自适应满足不同尺度物体的信息获取,扩张率设计成锯齿状结构,捕获不同距离的信息,以达到既不破坏卷积的连续性,同时又满足大卷积是小卷积正则化叠加的结果的目的;(c)第i层的最大空洞率满足：

Mi=max[di,Mi+1-2di,Mi+1-2(Mi+1-di)]

其中,di是第i层的扩张率,Mi和Mi+1分别为第i层和第i+1层的最大扩张率。

1.3 双向注意力图模块

注意力(Attention)机制首见于图像领域,可以显著提高图像分割以及图像修复的效果,近年来在深度学习的各个领域得到了广泛应用。注意力机制是受到人类视觉注意力的启发。一般情况下,当人们观察图片时,首先会对全局图像进行快速扫描以获得聚焦的目标区域,然后在目标区域通过使用更多的注意力资源以获得更详细的信息,以此来减少不必要的信息所产生的影响。实质上就是一种新的表示,只不过这是前期获取事物之间的关系,再通过线性加权而得到。文中方法引入空间注意力机制,设计了可学习的双向注意力图特征融合模块,首先定位出成像测井图像中缺失的区域,然后赋予其更高的权重,从而实现对局部缺失区域进行准确修复。

通过将正向和反向注意力图与U-net网络相结合,图2显示了完全可学习的双向注意力图。给定一幅带有上下连通缺失区域的输入图像,使用Min表示二进制掩模。从左侧开始,前向注意力图将Min作为第一层编码器特征重新归一化的输入掩码,并逐步更新并应用到下一编码层。相反,反向注意力图以1 Min作为输入,对解码特征的最后一层进行重新归一化,逐渐更新并将掩码应用到前一层解码器层。将注意力图、卷积运算,掩码卷积操作和掩码更新功能统称为可学习的注意力图模块。可学习的注意力图模块包括三个步骤,即(I)掩码卷积;(II)特征重归一化;(III)掩码更新。参考图2,将W设为卷积滤波,考虑到无偏置卷积层在U-Net网络中已被广泛用于图像修复且效果较好,此处也不使用偏置,同时引入卷积掩膜Mc=M⊗km,其中⊗表示卷积算子,M是由0和1构成的二进制掩码,km表示核大小为4×4、步长为2、填充为1的卷积滤波器。可学习的前向注意力图在编码阶段过程可以表示为：

图2 双向注意力图模块

(I)Fconv=WTFin

(3)

(II)Fout=Fconv⊙gA(Mc)

(4)

(III)M'=gM(Mc)

(5)

gM(Mc)=(ReLU(Mc))α

(6)

gA(Mc)=

(7)

公式(6)是掩码更新的激活函数,其中α≥0是一个超参数,在训练过程中设α为0.8。公式(7)引入了一种非高斯变形形式作为注意力图的激活函数,在a、μ、γl和γr缺少可学习参数的情况下,初始化为a=1.1,μ=2.0,γl=1.0,γr=1.0,以端到端的方式学习它们。

(8)

(9)

在每次联合注意力图对输入特征图进行运算校正之后,更新掩码如下：如果卷积可以将至少一个有效输入值作为其输出条件,则该位置就被标记为有效,作为前向传递的一部分,通过连续应用足够的注意力图,任何掩码最终都将被标记为有效。得益于端到端的学习,可学习双向注意力模块在处理上下连通缺失区域时更有效。在编码前向传播阶段,掩码区域随着更新变得越来越小,网络越来越注重修复缺损区域,在解码反向传播阶段,非掩码区域变得越来越小,网络越来越注重已修复区域的质量提升。双向注意力模块还有利于网络训练,使得利用对抗性损失来提高视觉质量是可行的。

2 成像测井图像修复模型与流程

2.1 成像测井图像修复模型架构

该文通过去除瓶颈层并结合双向注意力图来修改14层U-Net体系结构[7],设计了一种用于微电阻率成像测井图像修复模型,基本网络模型架构如图3所示,各符号的含义在底部的图示中给出。

图3 微电阻率成像测井图像修复网络结构

改进的U-Net网络模型整体架构由下采样、上采样两部分组成。在模型下采样过程中,前向特征提取器采用去掉全连接层的VGG16网络,前向注意力模块应用于第2层到第7层。第1层是标准卷积模块,由4×4标准卷积(stride为2、padding为1)、ReLU激活函数、批归一化组成,用于提取成像测井图像特征信息。第2层到第5层使用混合空洞卷积(卷积核大小为4×4,stride为2,padding为1,扩张率分别为1、2、5)、批归一化、ReLU激活函数,增大感受野,加强网络的特征提取能力;第6层到第7层沿用第一层标准卷积操作。在下采样过程中,特征图尺寸减半,第1层将通道数增加到64,第2层到第4层通道数翻倍,第5层到第7层通道数不变。在上采样过程中,反向注意力模块应用于上采样阶段,每层使用核大小为4×4、步长为2、填充为1的标准卷积核,且不设置偏置参数,进行批归一化和LeakyReLU非线性处理;在最后一层卷积后使用tanh非线性激励函数。上采样每增加经过一层,特征图尺寸大小为上一层的2倍,第8层到第10层通道数不变,第11层到13层通道数减半,最后一层使用3个卷积核会将通道数降至3。

2.2 成像测井图像修复流程

该方法中的模型训练与验证流程如图4所示。

图4 成像测井图像修复流程

首先,拿到真实成像测井图像数据,进行数据集制作;接着,对制作好的数据集进行预处理,并按比例划分为训练集、测试集和验证集;然后,在模型初始化阶段,使用预训练的VGG16网络权重加快模型训练进程,并且在模型训练和验证阶段使用可以随模型进程动态变化的学习率,通过一定的衰减策略不断优化模型;最后,在训练好的成像测井图像修复模型上,输入测试集、验证集进行测试,完成对成像测井图像部分缺失区域的修复。

2.3 损失函数

成像测井图像修复模型的总体性能不仅取决于网络结构,损失函数的选取也至关重要。为了更好地修复成像测井图像的纹理细节和语义结构,综合采用像素重构损失、感知损失[8]、对抗性损失[9]以及风格损失[10]来训练文中所搭建的模型。

像素重构损失：用Iin表示输入带mask的成像测井图像,Min表示mask的二值区域,It表示在测井过程中真实的成像测井图像,模型的输入定义为：Iout=Φ(Iin,Min;θ),其中θ表示要学习的模型参数,采用输出图像的L1范数误差作为像素重构损失：

PL1=‖Iout-It‖1

(10)

感知损失：L1范数损失仅限于捕捉高级语义,与人类对图像质量的感知不一致。为了缓解这一问题,引入了在ImageNet[11]上预先训练的VGG-16网络上定义的感知损失：

(11)

其中,Fi(·)表示第i个池化层的特征图。

对抗性损失：对抗性损失在图像生成和低水平视觉[12]中已经被广泛使用,用以提高生成图像的视觉质量,计算形式上可以表示为：

(12)

风格损失：假设特征图的大小为Hi×Wi×Ci,则可以将风格损失定义为：

Fi(Iout)(Fi(Iout))T‖2

(13)

总损失：基于上述损失函数,文中模型总损失函数可以定义为：

L=λ1PL1+λ2Lprec+λLadv+λ3Ls

(14)

在训练过程中,λ1、λ2、λ3、λ4不是固定的参数,根据经验设置λ1=1,λ2=0.03,λ3=0.15,λ4=120。

2.4 评价指标

为了定量评价所提出的改进U-Net网络模型在成像测井图像缺失修复中的性能,采用客观全参考方法,包括峰值信噪比(Peak Signal to Noise Ratio,PSNR)、平均结构相似性度量(Mean Structural Similarity Index Measurement,MSSIM)等作为评价指标。

3 实例应用与结果分析

3.1 数据准备

所研究的实验数据来源于大庆油田某工区实际测井数据,一共包含五口水平井的微电阻率成像测井图像,并且五口水平井井位距离相近,符合实验条件。实验中选取了成像效果较好且具有实际参考意义的井段进行截取,截取井段包括粗砾岩、断层、砾石砂岩、砂砾岩、泥岩等成像测井图像,同时考虑模型训练时输入图像的大小,进一步将截取的成像测井图像采用Photoshop CS6进行切分,同时为了增加图像数据的多样性,避免模型训练过程中因数据集较少出现过拟合,对切分后的图像进行垂直和水平翻转,最终得到包含5 000张256×256大小的成像测井图像的数据集。

3.2 数据预处理

提出的网络模型的输入需要带有mask区域的成像测井图像和mask二值图像,所以需要对原始电测井图像进行预处理,并且文中模型是在U-Net网络模型基础架构上采用混合空洞卷积替代标准卷积并嵌入双向注意力图进行改进,以便更加适应对缺失区域的修复。因此,为了展示文中模型在应对上下连通缺失区域时的修复效果,采用OpenCV库单独设计了一个方法,用于生成上下连通缺失的掩码图像。

3.3 模型训练

结合大庆油田某工区五口水平井的真实成像测井图像,经过数据预处理过程,创建了带mask区域的成像测井图像和对应的mask二值图像的数据集。将数据集按照8∶1∶1的比例将所有图像划分为训练集(4 000张)、验证集(500张)、测试集(500张)。

对改进的U-Net网络模型进行成像测井图像修复实验,采用64位Windows10操作系统,以Python3.6编程语言、深度学习框架Pytorch1.2实现,并采用16G的NVIDIA GeForce GTX 1650Ti显卡加快训练进程。在实验过程中,使用预训练权重提升网络模型的性能并对模型进行初始化,再结合上采样阶段进一步调式和训练。选用Adam算法作为网络模型优化算法,一阶矩估计的指数衰减率beta1=0.5,二阶矩估计的指数衰减率beta2=0.9,并将10-4设置为初始学习率。小批量大小设置为16,训练轮数设置为120个epoch,并通过ReduceLROnPlateau动态学习率调整策略对学习率进行多轮迭代,记录下每个epoch训练完成后在验证集上的损失值,并随轮次不断衰减学习率,规定学习率的最小值不能小于10-5。表1展示出了不同迭代次数对训练集图像修复评价指标的影响(以成像测井图像缺失区域比为(0.1,0.2]为例),可以看出在迭代轮数为100时成像测井图像的修复效果最理想。

表1 不同迭代次数对评价指标的影响

3.4 实验结果对比

通过对改进的U-Net网络模型进行训练,训练集和验证集的平均结构相似性MSSIM和峰值信噪比PSNR上升曲线以及损失函数下降曲线如图5所示(以成像测井图像缺失区域比为(0.1,0.2]为例)。其中对于MSSIM来说,训练集最高为0.935,验证集最高为0.953;对于PSNR来说,训练集最高为35.984,验证集最高为34.897;从损失函数图可得,训练集最低值为0.15,验证集最低值为0.12。

图5 训练集和测试集的评价指标上升曲线

为验证所提方法在成像测井图像修复中的有效性,选择上下文注意力机制模型Context Attention[13]、部分卷积PConv[14]以及渐进式循环修复RFR[15]进行定性和定量对比测试。其中,上下文注意力CA引入粗略到细化的两阶段网络结构,两阶段网络层数均为17层,优化器为Adam,学习率为0.000 1,隐藏层使用ReLU激活函数,输出层使用tanh非线性激励函数。部分卷积PConv使用部分替代标准卷积,网络为16层,初始学习率为0.000 2并使用0.000 05进行微调,优化器使用Adam算法,下采样使用ReLU激活函数,上采样使用LeakyReLU激活函数。RFR分为三部分,首先是使用部分卷积更新mask和feature map,然后送入编码-解码结构进行特征推理,最后进行特征合并,编码-解码网络为6层,优化器及激活函数同上,初始学习率为0.000 1并使用0.000 01进行微调。定性比较如图6所示,可以看出文中方法在成像测井图像上下连通缺失修复和细节纹理修复方面有较好的效果。

图6 成像测井图像修复定性比较

定量比较如表2所示,文中方法的PSNR值(缺失比为(0.1,0.2])比Contextual Attention提升了3.312,比PConv提升了2.190,比RFR提升了0.561;MSSIM值(缺失比为(0.1,0.2])比Context Attention提升了0.115,比PConv提升了0.076,比RFR提升了0.020。

表2 成像测井图像修复定量比较

表3给出了文中模型进行消融实验的结果。相关说明如下：(I)model(original)：原始U-Net网络且未使用混合空洞卷积替代标准卷积;(II)model(unattention map)：使用混合空洞卷积,但未使用注意力图模块;(III)model(forward)：有前向注意力图模块但没有反向注意力图模块;(Ⅳ)model(Sigmoid)：使用Sigmoid激活函数;(Ⅴ)model(ReLU+LReLU)：上采用使用ReLU激活函数,下采样使用LeakyReLU激活函数;(Ⅵ)model(full)：使用文中提出的完整模型。以上所进行的消融实验均采用成像测井图像缺失比相同的一套数据集,分别进行训练。

表3 文中模型在消融实验下的表现差异(PSNR(dB)/MSSIM)

3.5 实验结果分析

根据3.4节中由真实测井图像数据所得的实验结果,笔者做出以下理论分析。由图5(c)可知,模型中采用数据批标准化和LeakyReLU激活函数用于提升模型收敛的速度,在大约15个迭代周期时,训练集和验证集的损失函数开始逐渐趋于平缓。且图5(a)和图5(b)中验证集和训练集的平均结构相似性度量和峰值信噪比相差不多,说明文中模型不存在过拟合现象。图6每一行由完整成像测井图像原图、带mask掩码的图像以及不同模型修复后的输出图像组成。通过对比可以发现：对于一些复杂且上下连通的缺失区域,上下文注意力CA会产生模糊的修复效果,并且可能产生不真实的伪影;部分卷积PConv对于处理图像小范围缺失区域有良好的表现,但是在一些缺失区域会产生过度平滑的结果;渐进式循环RFR有连续的特征推理层,故而太注重缺失区域的局部特征,使得修复后的图像全局语义结构不够连贯。相比之下,文中模型针对成像测井图像上下连通的缺失区域进行修复,以混合空洞卷积提取多尺度特征、空间注意力对缺失区域重加权、前向注意力图模块维护掩码更新和修复缺失区域、反向注意力图则注重提升已修复区域的质量,从而最终产生语义结构连贯、纹理清晰、视觉上更合理的修复效果。表2展示了不同模型在缺失比不同的成像测井图像上的定量对比结果,可以看出文中模型在峰值信噪比PSNR和平均结构相似性度量MSSIM方面表现良好。表3中数据显示当逐渐引入所改进的模块时,模型的PSNR和MSSIM均得到了不同程度的提升。(以下评价指标变化均以缺失比为(0.1,0.2]为例)在原始U-Net网络上使用混合空洞卷积替代标准卷积,模型的MSSIM上升了0.021;引入前向注意力图模块,模型的的MSSIM上升了0.154;引入Sigmoid激活函数使得MSIIM有所下降,故而采用ReLU和LeakyReLU替代Sigmoid,MSIIM上升了0.047;最后使用文中完整模型进行实验,MSSIM相较于原始U-Net网络上升了0.243。

4 结束语

针对微电阻率成像测井图像缺失的问题,提出一种基于改进U-Net网络的成像测井图像修复方法,得出结论如下：

(1)采用在大规模数据集ImageNet上训练得到的VGG16预训练权重对U-Net网络模型进行初始化,在基础U-Net网络部分卷积层中引入混合空洞卷积,通过增大感受野来获取多尺度信息,提高网络模型的特征学习能力。

(2)在模型结构中引入空间注意力机制以搭建双向注意力图模块,并使用可以动态衰减学习率的策略迭代更新模型,实现了对成像测井图像上下连通缺失区域的修复,且从不同算法修复效果对比和消融实验的结果来看,PSNR和MSSIM均显示所提方法具备一定的有效性和实用性,并且整体性能更优。

(3)文中模型所修复的成像测井图像在语义结构连贯、纹理清晰方面具有良好的表现,对于已经完井井眼的成像测井图像缺失问题,它的应用可以大大降低储层油气解释工作的困难,同时也为成像测井图像缺失修复提供了一种新思路。