联合特征推理和语义增强的渐进式壁画修复

2023-08-19 02:39:18陈永赵梦雪陶美风
湖南大学学报(自然科学版) 2023年8期
关键词:掩膜壁画语义

陈永 ,赵梦雪 ,陶美风

(1.兰州交通大学 电子与信息工程学院,甘肃 兰州 730070;2.甘肃省人工智能与图形图像处理工程研究中心,甘肃 兰州 730070)

敦煌莫高窟壁画作为世界级文化遗产,记载着十六国至明清的彩绘艺术,具有极高的研究价值.然而莫高窟地处干旱戈壁沙漠,受大自然侵袭、人为破坏等因素影响,大多数壁画出现了裂纹、剥落、酥碱等病害[1].将数字化修复技术应用于古代壁画遗产的修复保护,已成为当前的研究热点[2].

目前,图像修复算法主要包括:以纹理合成和稀疏表示等为主的传统修复算法和深度学习修复方法.其中,传统类修复[3-5]主要将先验信息采用复制合成的方式补全缺失像素,该类算法对壁画裂纹等小区域破损有较好的修复效果,但对于脱落等较大区域破损修复时,易出现结构紊乱、无效填充等问题[6].

对于缺失区域较大的图像,深度学习是目前的主流图像修复方法.深度学习方法一般需要设计相应的学习网络,利用已知图像的完好信息生成未知破损信息[7-9].壁画图像结构复杂且包含较多的语义信息,采用深度学习方法时,一般设计卷积神经网络、生成对抗网络或者编解码器等方法,学习壁画图像深层语义特征来实现对于较大破损区域的壁画修复[10-15].Yu 等[7]提出了基于生成对抗网络的双阶段修复算法,但精修复阶段编码器在编码时采用整体编码的形式进行重构,修复后图像局部与全局有较大差异,易出现块效应问题.Nazeri 等[8]提出了基于结构预测和内容补全的联合生成对抗修复模型,采用边缘结构预测的方法可以较好地拟合壁画结构信息,但该方法重构过程未考虑破损区域和完好信息的相关性,修复结果存在模糊的问题.Li 等[9]提出了一种基于视觉重建的修复网络,通过线条结构和颜色特征重建的方法进行修复,但该方法采用连续下采样和反卷积,易出现边界像素丢失,其重构结果存在语义偏差.Xiong 等[10]提出了基于轮廓引导的双阶段修复模型,通过结构拟合的方式引导修复,但该方法采用Sobel 算子检测轮廓时存在方向单一的问题,导致对于复杂纹理图像修复效果欠佳.Guo等[11]提出通过全分辨率残差网络来填充不规则孔洞的修复方法,但在修复过程中多次将特征图映射回RGB空间,存在映射信息丢失而失真的问题.Liu 等[12]提出了互编码器-解码器的图像修复模型,通过多尺度和深浅层特征联合作用恢复图像的结构和纹理特征,但修复过程未区分无效信息,修复结果易出现纹理细节模糊的现象.上述深度学习算法由于采用整体特征提取的方法,易引入无效像素参与卷积,往往会导致壁画修复结果出现语义不明和像素紊乱等问题.因此,区分无效像素、加强有效信息利用程度对提升壁画修复结果具有重要意义.Li 等[13]提出了基于循环推理卷积特征映射完成修复的方法,该方法增强了对于破损信息的修复约束性,但该方法采用标准卷积层级联的方式进行编解码,易引入无效像素参与修复,导致修复结果存在伪影现象.Wadhwa 等[14]提出基于超图卷积的粗细双阶段图像修复方法,但该方法对结构纹理等先验信息考虑不足,导致修复结果存在结构紊乱纹理模糊等现象.胡凯等[15]提出了一种基于边缘生成的双阶段图像修复算法,通过预测缺失区域边缘结构引导完成重构图像,但该方法未充分考虑破损区域与完好信息的一致性,其结果存在局部模糊的现象.

综上所述,现有深度学习图像修复算法在修复壁画时,一般采用对破损壁画进行整体特征提取的方式进行修复,该过程中未充分考虑破损区域与完好区域信息的一致性,导致修复结果中易出现边界效应和纹理模糊等问题,因此本文提出了一种联合特征推理和语义增强的渐进式壁画修复方法.主要工作有:1)首先,设计区域渐进结构,通过部分卷积的掩膜更新机制,实现待修复区域的渐进式收缩,避免了对破损壁画特征整体提取的盲目性.2)然后,构建了由共享编码、门控卷积和标准卷积联合解码的特征推理模块,采用提出的特征推理机制对缺失像素的特征值进行迭代推理填充,加强对破损区域的约束,减小壁画重构误差,增强壁画破损区域与完好区域之间的相关性.3)最后,将各渐进迭代层输出的特征图自适应融合,并采用语义增强模块对重构图像与原始壁画间的纹理细节进行迁移,使其生成更加符合视觉一致性的重构结果.实验结果表明,本文方法能够更有效地修复真实敦煌壁画,主客观评价均优于对比方法.

1 本文方法

1.1 网络整体架构

壁画往往呈现出复杂结构和纹理的特点[1].大多数深度学习模型,通常将待修复破损壁画视为整体,采用特征提取或多阶段修复的方式,对待修复壁画进行整体特征学习.然而,壁画破损区域与完好信息之间有较强的相关性,整体特征提取的修复方式忽视了破损区域与完好信息的一致性,会导致修复结果易出现边界效应和纹理模糊等问题[13].因此,本文提出了一种联合特征推理和语义增强的渐进式壁画修复方法,其网络整体框架如图1 所示.该网络模型主要包括:区域渐进模块、特征推理模块、特征融合模块以及语义增强模块四部分,如图1所示.

图1 本文总体模型框架Fig.1 Model framework of proposed method

模型工作时,首先,将原始壁画图像和破损掩膜输入模型,通过由部分卷积构成的区域渐进模块,仅对破损掩膜区域进行修复,避免了传统编码器对图像特征提取时,采用整体特征提取,未区分破损区域和完好区域的差异性的缺点.接着设计特征推理编码器,进行渐进式推理修复,并通过门控卷积与标准卷积构成的双通道解码器解码生成修复后特征图.该过程中,在编解码器之间利用跳跃连接的方式,提升特征信息的长程迁移能力,增强推理特征图之间的相关性.然后,更新当前修复完成后的破损掩膜边界,继续反馈至修复模块,循环进行特征推理修复,直至整个破损区域完成渐进式收缩修复.最后,将每次循环解码得到的特征图进行自适应融合,并通过语义增强模块将原始壁画图像的整体纹理色彩等特征信息迁移至重构图像,用于增强破损区域修复结果与壁画先验信息的整体一致性,提升重构壁画的全局语义合理性,最终输出修复后壁画图像.图1 中各部分模块功能如下.

1.2 区域渐进模块

在壁画修复过程中,破损掩膜为待修复的壁画区域,该区域内像素均为初始待修复的无效像素.为了避免对壁画整体特征学习的盲目性,本文提出区域渐进模块,采用部分卷积来确定和更新每次渐进迭代过程中需要修复的区域.现有深度学习方法在壁画图像修复时,一般采用普通卷积对壁画图像进行特征提取,卷积核内所有像素均参与计算,如图2(a)所示,但该操作未区分壁画中完好区域和破损区域的像素,会导致大量无效像素也参与特征提取,无效像素将逐层前向传播,导致出现错误混叠的问题[9].为了避免上述普通卷积只能进行整体特征学习的不足,本文采用部分卷积进行特征提取.部分卷积示意图如图2(b)所示,该卷积方式仅针对输入壁画中的完好区域有效像素进行卷积操作,而对破损掩膜区域像素不进行任何特征提取.在图2(b)中,破损掩膜区域像素因为是破损无效像素,部分卷积权重均为0,表示破损无效像素不参与特征提取,从而有效避免了无效像素参与卷积过程而导致结构紊乱和视觉伪影问题[16].

图2 普通卷积和部分卷积示意图Fig.2 Schematic diagram of ordinary convolution and partial convolution

在区域渐进模块,采用部分卷积只针对壁画完好区域特征进行提取,可以避免破损掩膜区域无效像素参与卷积过程,从而减小破损区域对修复结果的影响.该模块结构图如图3所示.

图3 区域渐进模块Fig.3 Area progressive module

在图3 所示区域渐进模块中,通过部分卷积实现破损掩膜更新和特征映射,经过规范化层和Leaky ReLU 激活函数处理后,从而得到当前渐进待修复壁画.在此过程中,部分卷积层计算后进行标准化特征映射公式,如式(1)所示.

生成的位置x,y处的壁画破损区域新边界值如式(2)所示:

完成一次卷积操作后,即可获得一次迭代后的新掩膜,从而动态完成一次掩膜的渐进更新.更新后的破损掩膜和当前层输入掩膜之间的差异定义为当前迭代层中需要修复的区域.更新后的破损掩膜在壁画当前层计算过程中被保留,直到在下一层修复过程中被进一步渐进收缩.

1.3 特征推理模块

在完成待修复壁画破损区域渐进式确定后,紧接着对待修复壁画Oim+M进行特征推理.为了增强对于缺失破损壁画信息的推理能力,本文提出由共享编码器和双通道解码器构成的特征推理模块对破损壁画图像进行渐进修复.其中,共享编码器由部分卷积层级联构成,双通道解码器由门控卷积层和标准卷积层对特征图进行联合解码.特征推理模块结构图,如图4所示.

图4 特征推理模块Fig.4 Feature reasoning module

图4 特征推理模块,首先将区域渐进修复确定的破损壁画Oim+M采用部分卷积级联的方式进行特征提取.接着,将特征图采用语义一致性模块进行破损像素的特征推理,并在完成特征推理后采用门控卷积和标准卷积联合解码器融合输出.在该过程中,将编码器和解码器层进行跳跃连接,使编码器和解码器的特征融合共享,减少编解码器网络层之间的信息丢失.

在壁画修复过程中,为了增强壁画破损区域与完好区域信息的一致性,本文引入语义一致性注意力(Semantic Consistency Attention,SCA)机制来进行缺失像素的特征推理,通过计算语义一致性注意力分数来指导特征匹配块与缺失像素块之间的特征推理过程,语义一致性注意力分数计算过程如图5所示.

图5 注意力分数计算过程Fig.5 Attention score calculation process

在图5 特征推理注意力分数计算过程中,从特征图Fi有效区域中选取3×3 的特征匹配块作为卷积滤波器,选定余弦相似度作为掩膜缺失像素块和壁画完好区域特征匹配块之间的匹配准则.在壁画完好区域按照从左至右从上到下的顺序,依次计算以像素点(x',y')为中心的特征匹配块与以像素点(x,y)为中心的缺失像素块之间的特征相似度,以此评价二者之间的相似度.像素点之间余弦相似度计算如式(3)所示:

在通过式(4)得到缺失像素块和壁画完好区域特征匹配块的相似度值后,采用全局平均池化操作,将通道数和卷积结果共同作为Softmax 激活函数的输入,计算出位置(x,y)处的注意力分数scorei.当前迭代层中的注意力分数分别是当前层的初始得分和之前迭代中最终累加得分的加权和,最终注意力分数计算公式如式(5)所示.

式中:λ为可学习参数为上层递归中位置(x,y)处像素的注意力分数.

若位置(x,y)的像素在上层递归中被视为无效参数,则忽略该像素对其不进行任何额外操作,当前层递归中该像素的最终注意力分数计算如式(6)所示.

最后,利用推理出的注意力分值重建特征图,位置(x,y)处的新特征图,计算过程如式(7)所示:

式中:w和h为特征图维度.然后将推理后的特征图采用门控卷积解码器和标准卷积解码器进行联合解码,解码过程如图6所示.

图6 双通道解码过程Fig.6 Dual channel decoding process

在图6 中,联合解码时,采用门控卷积和标准卷积联合的方式进行解码.一般情况下,特征在图像中越重要,被选取的概率往往越大,即采用门控机制可以提取到更丰富、更关键的语义特征信息[17].其中标准卷积层对编码特征图进行逐层上采样操作,输出解码后的特征图,解码过程如式(8)所示:

式中:为标准卷积层输出的重构特征图为上采样操作,σ为激活函数,Wi为权重值,为特征推理后的特征图,bi为偏置值.

门控卷积层对编码特征图进行解码重构过程如下,通过式(9)对特征图进行卷积操作,利用Sigmoid激活函数将其输出门控值映射在0和1之间,代表各像素特征值的重要程度:

式中:Gating为门控值;Sig(·)为Sigmoid激活函数;Wg为卷积滤波器;为特征推理后的壁画特征图.其次,利用式(10)计算得到解码特征值:

式中:Feature 为特征值;Φ为ReLU 激活函数;Wf为与Wg不同的卷积滤波器;为特征推理后的壁画特征图.然后,对解码特征值和输出门控值进行逐元素相乘,在当前卷积层的输出结果输入到下一个卷积层之前对其进行加权,门控卷积层最后输出的解码特征图如式(11)所示:

最后,将两个解码分支各自输出的特征图进行通道连接,得到当前层双通道解码结束后的重构特征图,其计算公式如式(12)所示:

式中:为联合解码后的特征图;Concat(·)为通道连接函数,为标准卷积解码特征图;为门控卷积解码特征图.

1.4 特征融合模块

破损壁画渐进式收缩修复过程中,破损掩膜区域所有无效像素被推理填充完时,迭代收缩修复结束.在该过程中,若仅使用最后迭代输出的特征图用于重构壁画,会存在特征图在多次迭代中误差累积的问题,重构后误差较大[12].因此,本文采用特征融合模块对渐进生成的一系列的重构特征图进行多特征图融合,以提高重构精度.

本文采用渐进融合的方式对重构特征图中像素(x,y,z)处的特征值进行融合计算,增强壁画破损区域与完好区域之间的相关性.在计算时,因为初始破损区域无效像素掩膜值为0,被修复后掩膜值变为1,因此通过统计在渐进修复过程中,待融合像素点的掩膜值为1 的次数,即通过计算待融合像素参与修复的有效次数,从而可以得到该像素点的融合特征均值,该过程计算如下:

1.5 语义增强模块

在完成待修复壁画特征融合后,为了进一步提高修复后结果的全局语义一致性,本文设计了语义增强模块,用于提升壁画重构图像的全局语义一致性,其结构图如图7 所示.语义增强模块由提取和迁移两个单元构成,提取单元主要用于提取输入壁画的整体风格.将融合后的壁画特征za输送进提取单元,利用提取单元对编码特征进行提取,接着通过迁移单元对提取到的特征进行风格迁移,从而减少重构图像与原始图像的风格差异,实现修复过程的全局性调节.

图7 语义增强模块Fig.7 Semantic enhancement module

图7 中,提取单元首先利用自注意力模块获取壁画图像的全局信息使其具备更大的感受野和上下文信息,从而捕获壁画图像的全局依赖关系.然后,采用残差块级联的方式对编码进行下采样,完成编码za的特征提取,最后通过全连接将求和后的特征映射为单通道风格向量,从而为迁移单元提供所需的归一化参数,经全连接层映射调节后的风格向量zsa更能有效反映壁画图像的全局语义信息.

在提取单元之后,迁移单元主要用于提升修复壁画图像的全局语义合理性.采用自适应实例归一化操作[18],即调整内容输入的平均值和方差以匹配样式输入的方式对编码za进行风格迁移,将重构壁画的内容与原始壁画的风格相结合,实现原始壁画图像的特征细节信息的传递.迁移时首先采用Leaky-ReLU 激活函数和维度为3×3 的空洞卷积块对其进行卷积操作,得到对应的迁移特征图,并对其进行自适应归一化操作,进一步调节壁画图像的整体语义一致性,其定义如式(14)所示:

式中:fm,n为第m个迁移块经过ReLU 激活函数后输出的特征图,μ(fm,n)和σ(fm,n)分别为均值和方差,αm,n和βm,n为风格向量映射的归一化参数,为经过风格迁移后的特征图,m为迁移块个数,n为每个迁移块的第n次归一化操作.

1.6 损失函数

本文方法损失函数包括生成合理特征的感知损失、增强整体一致性的风格损失、有效像素损失和无效像素损失.其中,感知损失如(15)式所示:

式中,ϕpooli表示固定特征映射,Hi、Wi、Ci分别表示第i个壁画特征图的高度、宽度和通道数,N为语义增强模块中特征提取器生成的特征图的数量.感知损失有助于捕获高层结构,但缺乏保持风格一致性的能力,因此进一步引入风格损失,使其从背景中学习整体纹理风格和颜色等信息.风格损失计算公式如(16)式所示:

通过壁画有效像素损失值Lv和无效像素损失值Linv来分别计算壁画完好区域和破损区域的L1差值,本文模型的总损失函数计算公式如(18)式所示:

式中:λ为可学习参数,Linv为壁画无效区域的计算损失值,Lv为壁画有效区域的计算损失值,Ls为重构壁画和原始壁画间的风格损失值,Lp为感知损失值.

2 实验结果与分析

本文通过在敦煌壁画中选取山水类、佛像类等不同类别高清壁画图像,构成自制敦煌壁画数据集,通过数据集扩展形成20 000余张壁画数据集进行实验,其中训练数据集壁画图像12 000余张,验证集壁画图像2 200张,测试集壁画图像5 800张.为了验证所提方法的有效性,在自制敦煌壁画数据集的基 础上,采用人为添加随机破损和真实破损敦煌壁画进行修复实验,并与文献[8]边缘引导修复方法、文献[12]互编解码联合修复方法、文献[13]循环特征推理方法、文献[14]超图卷积双阶段修复方法进行对比分析.对比实验均在相同的软硬件环境下进行.使用Python 3.6 以及PyTorch 1.1 编程实现,硬件环境为Intel(R)Core(TM)i7-10700K CPU @ 3.80 GHz,32GB RAM,NVIDIA GeForce GTX 2060 SUPER.采用评价准则峰值信噪比PSNR 和结构相似性SSIM 分别进行修复实验对比及客观性量化评价.

2.1 人为添加破损实验

首先进行人为添加随机破损修复实验,选取佛像类、山水动物类、飞天类、藻井类等10 组壁画进行修复对比实验,如图8 所示.其中,图8(a)为壁画原始图像,图8(b)为掩膜图像,图8(c)为文献[8]修复结果,可以看出文献[8]边缘连接edge-connect 修复结果中出现了块效应及修复不彻底的问题.如对于第一幅藻井图中,修复结果存在结构紊乱、区域模糊的问题.对于第二幅佛弟子头像图,佛光部分出现线条错位的现象.第三幅毛驴图和第四幅建筑楼阁,存在较多修复残留,无法有效完成修复.对于第八幅窟顶图,文献[8]算法修复结果中存在结构线条不平整、错误像素值溢出以及区域填充模糊的问题.上述问题是由于文献[8]算法通过预测破损区域结构边缘并填色进行修复,但是破损区域内修复结果存在结构线条出现预测错误和结构扭曲现象,存在色差、印痕明显等问题.

图8(d)为文献[12]修复结果,可以看出文献[12]算法修复结果中存在纹理模糊和印痕残留的问题.如对于第一幅藻井图、第十幅菩萨图中,其修复结果中存在明显的纹理紊乱且模糊的问题.对于第二幅佛弟子头像图以及第八幅纹样图,其修复结果仍残留掩膜,未修复完成.

图8(e)为文献[13]修复结果,可以看出文献[13]算法修复结果中存在棋盘效应以及结构缺失等问题.如对于第一幅藻井图中,圆环边缘部分线条结构错位,存在结构偏差及棋盘效应.对于第二幅佛弟子头像图,佛光线条结构存在偏差,导致线条弧度发生扭曲,视觉一致性较差.第三幅毛驴图和第四幅建筑楼阁,均存在明显的修复块效应,结构断裂,无法有效完成修复.对于第八幅窟顶图和第九幅弥勒降生局部图,修复结果中均存在明显的修复印痕及结构紊乱问题.这是因为文献[13]算法采用标准卷积级联的方式对破损壁画进行整体编码,未能区分无效像素,导致无效像素对修复结果出现严重影响.

图8(e)为文献[14]修复结果,对于大面积破损其修复结果存在非常明显的纹理模糊问题及修复残留问题,未能有效完成修复,如第三幅毛驴修复后仍存在孔洞现象.

图8(f)为本文算法修复结果,从图中可以看出本文算法采用渐进式推理方式,修复后重构误差较小,修复后破损区域与完好区域之间的一致性更强.如第一幅藻井图中,对于破损圆弧实现了较好的推理,拟合后结构更加合理.第二幅佛弟子头像部分的像素推理值较为合理集中,佛光部分结构也更加连贯自然.第3 幅毛驴图的腿部,得到了更符合语义的修复结果,修复更加彻底.相较于对比算法,本文算法采用提出的联合特征推理和语义增强的渐进式壁画修复方法,修复结果因采用推理机制及语义增强模块对纹理细节进行迁移,使其修复结果更加符合视觉一致性,块效应问题得到了明显的抑制,修复后整体更加清晰.

为进一步验证修复结果的质量,下面采用客观评价指标峰值信噪比PSNR 和结构相似性SSIM 对图8 的修复结果进行定量评价,比较结果见表1.其中PSNR 和SSIM 值越大,表示修复后失真越少.从表1中观测得出,本文算法在 PSNR 和SSIM 均优于其他对比算法,表明本文方法修复质量更好,从而验证了本文方法对于人为破损壁画修复的有效性.

表1 人为破损壁画修复试验结果对比Tab.1 Comparison of restoration results of artificially damaged murals

2.2 真实破损壁画修复

为了进一步验证本文算法的有效性,下面采用4组真实破损壁画图像进行修复实验,其修复结果如图9 所示.对于第一幅“北壁弥勒经变局部图”壁画,文献[8]的修复结果中佛光部分存在结构断裂以及残留的掩膜痕迹,文献[12]和文献[13]也存在同样的问题;文献[14]的修复结果好于前者,但修复的佛光部分存在结构错位的问题;而本文算法修复结果更加连贯流畅.对于第二幅“莫高窟二一七窟龛顶·罗睺罗献食认父局部图”壁画,文献[8]和本文算法均取得了较好的修复结果,而其余三种对比算法修复后均存在明显的裂纹修复印痕以及结构不连续等问题.对于第三幅“敦煌莫高窟壁画·供养菩萨局部图”壁画,文献[8]算法修复后存在明显的裂纹印痕以及供养菩萨手部细节缺失的现象;文献[13]算法修复过程中出现修复残留,供养菩萨手部未能完成修复;文献[12]和文献[14]虽恢复出了手部细节,但也存在印痕残留的现象;而本文算法修复结果中菩萨手部结构细节特征均取得较好的重构效果.对于第四幅“莫高窟壁画·普贤变局部图”壁画,文献[8]算法修复结果中菩萨头发部分以及袈裟部分均出现严重的块效应现象,未能达到满足视觉的重构效果;文献[12]和文献[13]算法修复结果同样存在明显的破损残留,结构线条不连续且纹理细节丢失,修复痕迹明显;文献[14]算法修复结果的袈裟部分存在明显纹理模糊现象;而本文算法修复后更加彻底,如菩萨的头发部分完成了有效修复,并且视觉一致性效果更好,袈裟线条纹理部分推理痕迹明显弱化,取得了较好的修复结果.

图9 真实破损壁画修复实验对比图Fig.9 Comparison of repair experiments for real broken murals

为进一步直观清晰地观察对于细小样本块的修复效果,下面分别选取上述实验中两组人为破损修复结果:第八幅纹样图、第十幅菩萨图以及两组真实破损修复结果第一幅和第四幅进行局部修复细节比较.图10中,第1列为壁画原图,对于第1行和第2行人为添加破损局部修复放大图,可以看出文献[8]、文献[12]和文献[14]均出现了明显的块效应现象,文献[13]出现了结构断裂和马赛克现象,本文方法较好地拟合了结构线条并且修复后更加彻底.第3行和第4 行为真实破损壁画修复结果局部放大图,可以看出文献[14]方法修复后存在较为严重的模糊现象,其他文献均存在修复不彻底的问题,而本文方法对于真实壁画修复后更加自然清晰.

图10 壁画修复结果局部放大对比图Fig.10 Partial enlarged contrast of mural restoration results

由于真实破损壁画缺少相应的标准参考图像,因此对于其修复结果,本文采用无参考图像质量评价方法进行评估.采用无参考评价指标平均主观分值MOS(Mean Opinion Scores,MOS)进行评价,其值为观测者根据评价准则,对待评价图像按照视觉效果做出质量判断的质量分数[19-20],该值越大,表明修复效果越满足人眼视觉效果,其与破损量对应关系见表2.采用MOS 指标的图9 真实破损壁画修复实验评价结果如表3 所示.从表3 中可以发现,本文MOS评价结果优于其他对比文献方法,说明其修复后视觉连贯性更强.在完成真实破损壁画修复结果主观评价后,继续采用客观评价指标图像信息熵对图9修复结果进行进一步量化比较.信息熵代表图像信息丰富程度,其值越大,表明修复后信息越丰富,修复结果更清晰.从表3 得出,本文算法的图像信息熵评价值最大,优于对比算法.综合主客观评价,表明所提方法在主客观评价指标中均优于对比方法,验证了本文方法对于真实壁画修复的有效性.

表2 真实破损壁画修复主观评价及量化表Tab.2 Subjective evaluation and quantification table for the restoration of real damaged murals

表3 真实破损壁画修复结果主客观评价对比Tab.3 Comparison of subjective and objective evaluation of the restoration results of real damaged murals

3 结论

针对现有深度学习修复方法,一般采用对破损壁画进行整体特征提取,未充分考虑壁画破损区域与完好区域信息的一致性,导致修复结果出现边界效应和纹理模糊等问题.有鉴于此,本文提出了一种联合特征推理和语义增强的渐进式壁画修复算法.设计区域渐进模块对壁画待修复区域实现渐进式收缩,并提出特征推理模块对缺失壁画特征值进行迭代推理填充,增强壁画破损区域与完好区域之间的相关性.然后,提出语义增强模块,实现壁画整体性风格修复,提升重构壁画纹理细节的全局一致性,达到更好的壁画重构效果.最后,真实破损壁画的修复实验结果表明,所提方法取得了更好的视觉效果和较高的定量评价.

猜你喜欢
掩膜壁画语义
敦煌壁画中的消暑妙招
利用掩膜和单应矩阵提高LK光流追踪效果
一种结合图像分割掩膜边缘优化的B-PointRend网络方法
壁画上的数学
语言与语义
北朝、隋唐壁画
收藏界(2018年5期)2018-10-08 09:10:54
光纤激光掩膜微细电解复合加工装置研发
帮壁画“治病”
学与玩(2017年6期)2017-02-16 07:07:26
多层阴影掩膜结构及其制造和使用方法
科技资讯(2016年21期)2016-05-30 18:49:07
“上”与“下”语义的不对称性及其认知阐释
现代语文(2016年21期)2016-05-25 13:13:44