马敏慧,王红茹,2,王 佳,2
〈图像处理与仿真〉
基于改进的MSRCR-CLAHE融合的水下图像增强算法
马敏慧1,王红茹1,2,王 佳1,2
(1. 江苏科技大学 机械工程学院,江苏 镇江 212003;2. 江苏科技大学 江苏省船海机械先进制造及工艺重点实验室,江苏 镇江 212003)
针对海洋复杂成像环境导致的水下图像出现颜色衰退、对比度低等问题,提出一种改进的带色彩恢复的多尺度视网膜(Multi-Scale Retinex with Color Restore,MSRCR)与限制对比度自适应直方图均衡化(Contrast Limited Adaptive Histogram Equalization,CLAHE)多尺度融合的水下图像增强算法。首先,采用带有导向滤波的MSRCR算法解决水下图像颜色衰退的问题;其次,采用带有Gamma校正的CLAHE算法以提高水下图像的对比度;最后,对经过改进的MSRCR和CLAHE处理后的图像进行多尺度融合以获得细节增强后的水下图像。实验结果表明,和其他算法相比,文中算法的峰值信噪比(Peak Signal to Noise Ratio,PSNR)平均提高了9.3914、结构相似性(Structural Similarity Index Measure,SSIM)平均提高了0.3013、水下图像评价指标(Underwater Image Quality Evaluation,UIQE)平均提高了4.7047,能实现水下图像的有效增强。
水下图像增强;CLAHE增强;带颜色恢复的多尺度Retinex;导向滤波;Gamma校正;多尺度融合
地球上海洋面积广阔且具有丰富的资源,如今随着经济的发展,每个国家对资源的需求不断增长,然而相比海洋资源,陆地上的资源随着人类大量开采而不断减少,因此,扩大对海洋资源的开发利用是未来人类发展的方向。不同于陆地环境,海洋环境存在着许多复杂的问题,在海洋环境下成像问题是最基础的问题同时也是最大的问题,这直接影响着是否能够探索到海洋资源。通常直接获取的水下图像会出现严重的噪声干扰、颜色衰退、图像信息的丢失等问题,这直接造成无法提取到有用的信息,无法进行后续工作的开展,因此进行水下图像增强具有重要的意义。
水下图像增强一直是当前很多专家学者研究的方向。2018年,Mishra等[1]对CLAHE进行了改进并应用于水下图像增强,这种方法在很大程度上将水下图像的对比度得到提高,但是经过这种方法处理过的水下图像会出现部分细节模糊的现象。2019年,Sun等人[2]提出了一种暗通道先验结合MSRCR水下图像增强算法,该算法有效地解决了低照度水下图像颜色衰退的问题,但是增强后的图像会出现雾化的问题。2020年,Wang等人[3]提出了一种低照度多尺度Retinex水下图像增强算法。该方法可以有效避免图像在输出时产生光影,并且可以解决水下图像不清晰、对比度较差等问题。但是,实验结果表明水下图像在图像颜色衰退部分还是有待改进。同年,Dhanya等人[4]提出L-CLAHE增强滤波图像算法,该算法由L-CLAHE、增强和滤波三个模块组成。L-CLAHE模块的输出经过Gamma校正、直方图均衡化和双边滤波等强化和滤波阶段处理,结果表明,输出图像对比度得到改善,但是图像局部边缘细节视觉效果差。2021年,朱佳琦等人[5]提出一种红通道先验与CLAHE融合的水下增强算法,该算法首先利用红通道先验理论计算出预估透射率,然后在CLAHE算法增强图像前加入Gamma校正,实验结果表明,图像整体对比度得到改善,但是图像局部对比度差距较小时增强效果较差。范新南等人[6]提出一种MSRCR与多尺度融合的水下图像增强算法,该算法首先将图像进行色偏校正并转换到Lab颜色空间对亮度分量进行增强,然后对MSRCR色彩校正图像和Lab空间亮度分量进行多尺度分解并融合,增强后的水下图像色彩丰富,但是图像对比度没有得到有效改善。张薇等人[7]提出基于白平衡和相对全变分的低照度水下图像增强,算法采用灰度世界先验校正水下图像颜色,依据引导滤波的保边平滑性构造新的相对全变分约束来估计照度图,水下图像的颜色得到了校正,但是图像雾化严重对比度低,同时部分水下图像颜色容易校正过度。
针对图像颜色衰退和图像结构复杂会导致局部区域过度增强色彩不真实和对比度低边缘细节模糊的问题,本文针对水下图像颜色衰退的问题提出用融合导向滤波的MSRCR算法,针对水下图像对比度低的问题提出融合Gamma校正的CLAHE算法,同时针对水下图像边缘细节模糊采用多尺度融合来增强图像中的边缘细节信息。最后通过对比实验,以验证本文所提出方法的有效性。
多尺度Retinex(MSR)[8]在水下图像增强中通常会出现图像颜色衰退严重,噪声没有得到抑制,引起增强后的图像整体视觉效果不佳。Jobson等[9]提出的带色彩恢复因子的MSR算法(MSRCR)可以有效地解决图像颜色失真的问题,MSRCR的计算公式如下:
式中:(,)为输入图像;C(,)表示图像第个通道的颜色恢复参数,用来调节不同颜色通道之间的比例关系;表示尺度数目,通常为3;为第个尺度的加权系数;G(,)为高斯滤波函数。
高斯滤波通常易产生图像被过度光滑,导致图像缺乏边缘细节。针对此问题,本文在MSRCR中采用导向滤波[10]代替高斯低通滤波,以有效解决水下图像颜色失真的问题和MSRCR算法增强水下图像时易造成边缘细节丢失的问题。
导向滤波的基本原理为对于输出图像和导向图在滤波窗口存在局部线性关系,其公式如下:
式中:p为输入图像;I为导向图;q为输出图像;n为噪声;a,b为局部线性函数系数;为滤波窗口。
对于在确定的窗口中,a,b将会是唯一的常量系数,这就保证了在局部区域里,如果导向图I有一个边缘的时候,输出图像q也保持边缘不变。因此只要求得了系数a,b也就得到了输出图像q。为使得输入图像和输出图像的差别特别小,而且还可以保持局部线性模型,利用带正则项的岭回归计算滤波窗口内的损失函数(a,b),计算过程如下:
使用线性相关参数(a,b),滤波输出图像就可以通过q=aI+b线性模型得到。针对不同的窗口大小我们就会得到不同的导向滤波输出图像q值。
本文在MSRCR算法中用导向滤波函数代替高斯低通滤波函数,具体计算如下:
式中:MSRCR*(,)表示改进的MSRCR算法输出图像;(,)为导向滤波函数。
图1(a)为水下拍摄的原图,图像整体呈现出颜色失真的状态;图1(b)为经过MSR处理后的图像,图像对比度有所提高,但是颜色矫正不佳,出现了色偏;图1(c)为经过MSRCR处理后的图像,图像对比度明显提高,但是图像局部细节较为模糊;图1(d)为改进的MSRCR处理后的图像相较于图1(c)图像边缘细节清晰。
图2(a)为经过MSRCR处理后选取局部区域放大后的图像,图2(b)为经过改进MSRCR处理后选取局部区域放大后的图像。对比可得,图2(b)的边缘细节更加清晰,改进后的MSRCR算法解决了MSRCR算法增强图像带来的部分边缘细节模糊的问题。
常用的对比度增强算法[11-13]有HE(Histogram Equalization)、AHE(Adaptive Histogram Equalization)、CLAHE。HE算法主要是用来对图像的整体对比度进行增强,适用于图像的背景和前景接近的情况下。但是该方法在对较暗的区域均衡处理后由于亮度被拉得太高而出现噪点,并最终弱化了图像细节。AHE算法是在HE算法的基础上,将图像划分为几块分别处理,这样有利于处理图像数据的局部细节。但是该算法的复杂度较高,降低了图像的处理效率,同时图像块与块之间的过渡处理欠佳。CLAHE算法是在AHE算法的基础上进行改进,通过加入阈值对图像噪声进行抑制,同时通过使用线性插值的方法对图像区域块连接处进行优化,使图像整体变得平滑。但是CLAHE算法只提高了图像的对比度,然而并没有对图像的边缘细节信息进行增强。
图1 不同MSR的处理结果
图2 局部细节图
综上,本文在CLAHE算法中引入Gamma校正[14],在图像经过CLAHE处理前、后都加入Gamma校正,以增强图像整体对比度同时提高图像局部对比度,尤其对于相邻区域之间相差较小时增强效果明显。具体步骤如下所示:
1)对图像进行Gamma校正并将图像分割成连续,非重叠的×的区域块,每个区域块含有的像素为,区域块的大小与图像对比度的增强有着紧密的联系,区域块越大图像对比度增强越大,但是图像细节信息丢失的越多。
2)获取每个区域块的直方图,根据每个区域块的直方图分布规律计算裁剪幅值。
式中:clip是裁剪系数;N,N为在每个子块,方向上的像素个数;为灰度级数。
3)计算出图像区域块的分布直方图并设置阈值,将高于阈值的直方图部分进行切除,同时将该部分平均分布在直方图的下方,如图3所示。
4)在重新分配后的直方图上,对每个区域块进行直方图均衡化,同时对区域块的位置进行像素重构。
5)对图像进行Gamma校正。如式(7)所示,当<1时,如果图像区域块输入灰度值低,那么图像区域块输出灰度值变化将变大,图像对比度将会增强;如果图像区域块输入灰度值高,那么图像区域块输出灰度值变化将变小,图像对比度将会降低。当>1时,如果图像区域块输入灰度值低,那么图像区域块输出灰度值变化将变小,图像对比度将会降低;如果图像区域块输入灰度值高,那么图像区域块输出灰度值变化将变大,图像对比度将会增强。
图3 CLAHE算法直方图变换过程
=(+)(7)
式中:和为常量;为Gamma校正参数,该参数决定校正效果;为输入灰度级;为输出灰度级。
图4是对图1(d)所示的水下图像运用不同对比度增强算法得到结果。
图4 不同直方图均衡算法的处理结果
由图4可以看出,图4(a)是HE算法处理后的图像,易看出图像对比度增强过度,许多不重要的背景噪声同时也被增强,图像部分细节没有得到增强反而变得模糊不清;图4(b)是AHE算法处理后的图像,易看出图像块与块之间没有做过渡处理并且出现图像背景噪声被过度增强;图4(c)是CLAHE算法处理后的图像,易看出图像整体对比度得到了改善,背景噪声没有出现增强过度,但是图像局部对比度增强不足,部分细节不清晰;图4(d)是改进的CLAHE算法处理后的图像,该算法有效地增强了图像整体对比度的同时也增强了图像局部对比度。
图像融合通常的做法就是对不同图像赋予不同的值,然后通过叠加得到最终的结果图,但是这种做法往往会出现图像细节不清晰,图像出现重影晕环。为了解决这个问题,本文采用多尺度图像金字塔来融合图像,多尺度图像融合指的是图像在不同尺度下进行融合,通常情况下在单一尺度很难获取图像特征然而在另外一种尺度下就很容易获取,为了极大可能地保留图像结构特征,采用多尺度图像融合是一种较好的方式之一。
1.3.1 图像权重的计算
单一的图像权重[15]不能完整地反映图像各个基本特征。因此,要想完整地反映图像各个基本特征需要融合多个图像权重,本文选取了拉普拉斯对比度权重、亮度权重、饱和度权重、显著性权重。
拉普拉斯对比度权重可以清楚地显示出图像的边缘特征信息,通过使用拉普拉斯滤波器可以得到图像的全局对比度,这样可以保证图像的边缘和纹理具有较高的值。亮度权重负责为具有良好可见性的像素分配高值,该权重图是通过观察输入的R、G、B三通道与亮度通道L(给定位置的像素强度的平均值)之间的偏差来计算;显著性权重为了突出显示水下图像具有更高显著性的区域,可以通过输入的平均值减去其高斯平滑后得到结果。饱和度权重用于调整图像中的饱和区域,以获得饱和度均匀的融合图像。归一化权重是对上述权重进行归一化处理。
图5分别是颜色校正图像,颜色校正图像的拉普拉斯对比度、亮度、饱和度、显著性权重图以及归一化权重图。图6分别是对比度增强图像,对比度增强图像的拉普拉斯对比度、亮度、饱和度、显著性权重图以及归一化权重图。
图5 颜色增强图像的权重图
图6 对比度增强图像的权重图
1.3.2 多尺度图像金字塔融合
图像金字塔技术是以不同角度展示图像细节的一种方式,高斯图像金字塔和拉普拉斯图像金字塔是最常见的图像金字塔技术,通常会结合这两种技术综合使用。对颜色校正图像和对比度增强图像的归一化权重图进行高斯金字塔分解,得到不同尺度的权重图;对颜色校正图像和对比度增强图像采用拉普拉斯金字塔分解,得到不同尺度的图像,最后将不同尺度的图像进行重建,得到最终的增强图。
高斯图像金字塔可以保持图像的结构纹理信息,首先会对图像进行高斯滤波并且进行连续下采样,从而得到多种分辨率的图像。
式中:表示图像金字塔不同的层数;R,C表示第层输入图像的行和列;(,)表示高斯核函数。
拉普拉斯金字塔是用来重新构造出一幅图像,通过高斯金字塔得到的不同分辨率的图像,然后将每一层与上一层进行作差,同时进行上采样并且做高斯卷积,最终会得到不同的差值图像,通常称这些差值图像为拉普拉斯图像金字塔。
式中:K为原始输入图像;L为拉普拉斯金字塔分解图像;Up, Down分别为向上采样,向下采样。
多尺度金字塔融合计算公式为:
本文针对水下图像颜色衰退严重、对比度低及细节特征模糊等问题,提出一种改进的MSRCR与CLAHE多尺度融合的图像增强算法。图7为多尺度图像融合的原理图及最终效果图,其中图7(a)为水下图像经过颜色校正和对比度校正后的高斯金字塔图像和拉普拉斯图像,图7(b)为水下图像经过颜色校正和对比度校正多尺度融合后的图像。为图8为本文算法流程图,该算法首先将采集到的水下图像运用带导向滤波的MSRCR算法进行颜色校正;同时将颜色校正后的图像运用带有Gamma校正的CLAHE算法增强图像对比度;最后对经过颜色校正和对比度增强的水下图像进行多尺度图像融合得到最终水下增强图像。
实验的硬件系统为CPUi7-10875H,16GB DDR4;软件仿真环境是Matlab2016a,Win10操作系统。为了求证本文算法的可行性,将本文算法和文献[3]、文献[7]、文献[13]、文献[16]的算法进行对比,同时从主观和客观方面进行对比分析。
图7 图像多尺度融合
图8 本文算法流程
本文实验选择10种不同水下环境下的图像进行对比仿真实验,处理结果如图9所示。
从图9中可以看出,文献[3]算法整体上对图像细节清晰度和对比度有一定的提升,但是没有解决水下图像颜色衰退的问题;文献[7]算法增强后的水下图像颜色校正明显,但是对于偏蓝色的水下场景并没有很好的校正,并且图像对比度低,图像细节模糊;文献[13]算法基本解决了水下图像颜色衰退的问题,图像细节和对比度同时也得到了提升,但是对于偏蓝色的水下场景颜色校正效果差(如Picture 10);文献[16]算法整体上图像对比度提升明显,图像细节较为清晰,但是颜色校正效果稍显不足(如Picture 2,Picture 4,Picture 8);本文算法整体上解决了不同水下环境的颜色衰退问题,对比度大幅度的提高,图像局部细节清晰明显,符合自然光照下的图像。
本文采用3种性能指标来评估水下图像质量,即PSNR、SSIM和UIQE[17-18]。PSNR是基于对应像素点间的误差计算,主要计算最大值信号与背景噪声之间的比值,其数值越大则表示失真越小,其计算公式为:
式中:MSE表示图像的均方误差;、表示图像的宽,高;表示图像像素的比特数。
SSIM是衡量两幅图像相似度的指标,其计算公式为:
式中:1、1表示输入图像的均值,标准差;1、2表示增强后图像的均值,标准差;1,2表示输入图像和增强后图像的协方差;1、2为常数。SSIM数值越大表示输入原图的结构损失越小。
UIQE是专门用来评价水下图像质量的指标,通常对评价颜色保真度、对比度、清晰度3个分量根据水下环境微调不同的权重参数,3个权重参数的确定需要通过多元的线性回归计算,最后线性相加不同的分量得出最终指标。
式中:1、2、3是不同分量的权重;表示颜色保真度的测量指标;表示对比度测量指标;表示清晰度的测量指标。
上述实验的客观评价数据如表1~表3。
从表1中可以看出本文算法的PSNR基本上高于其他文献算法的值,除了Picture 3的PSNR数值略低于CLAHE算法,然而PSNR的数值并不能完全代表图像的质量,所以要结合图像的主观比较结果,从图中可以清晰看出Picture 3的颜色校正过度,红色分量过多出现颜色偏差,因此结合主观视觉来看,PSNR指标还是最好的。从表2中可以看出,本文算法的SSIM数值和其他算法相比是最优的,说明本文算法保留了更多的图像的原始信息。从表3中,本文算法的UIQE数值远远大于其他算法数值,其中,UIQE的权重系数1=0.0351,2=0.3128,3=3.5792,UIQE数值越大表明图像的颜色保真度、清晰度、对比度越佳。
图9 10种不同图像增强算法处理结果
表1 不同算法PSNR性能比较
表2 不同算法SSIM性能比较
表3 不同算法UIQE性能比较
主观上,从图8中不同图像增强后的结果可以看出,本文算法可以有效地解决不同环境下的水下图像共同存在的问题,呈现出优良的视觉效果;客观上,从表1~3中可以看出本文算法的不同指标数值几乎是最优的。因此,本文算法可以从不同方向有效的增强水下图像。
本文研究了水下图像增强几种具有代表性的算法。针对水下图像存在图像颜色衰退严重,对比度低,细节特征模糊等问题,提出了一种具有导向滤波的MSRCR算法,该算法解决了水下图像颜色衰退的问 题同时又保留了图像边缘细节;提出了一种具有Gamma校正的CLAHE算法,该算法有效地增强了水下图像整体对比度的同时也增强了图像局部对比度;最后结合多尺度图像融合,将两种算法增强后的图像逐层提取融合,保留了大量的图像特征信息,最终增强后的水下图像有效地解决了图像颜色衰退严重,对比度低,细节特征模糊的问题。对比实验结果显示,本文算法在主客观方面优于其他几种经典的水下图像增强算法。
[1] Mishra A, Gupta M, Sharma P. Enhancement of underwater images using improved CLAHE[C]//2018(ICACAT), 2018: 1-6.
[2] Sun J. Underwater Image Enhancement Algorithm Based on MSRCR[J]., 2019, 49(9): 783-787.
[3] WANG F, ZHANG B, ZHANG C, et al. Low-light image joint enhancement optimization algorithm based on frame accumulation and multi-scale Retinex[J]., 2020, 113(4): 102398.
[4] Dhanya P R, Anilkumar S, AA Balakrishnan, et al. L-CLAHE intensification filter (L-CIF) algorithm for underwater image enhancement and color restoration[C]// 2019(SYMPOL). IEEE, 2020: 117-128.
[5] 朱佳琦, 周丽丽, 闫晶晶, 等. 结合改进红通道先验与幂律校正CLAHE的水下图像复原方法[J]. 红外技术, 2021, 43(7): 696-701.
ZHU J Q, ZHOU L L, YAN J J, et al. Underwater image restoration method combining improved red channel prior and power law correction CLAHE [J]., 2021, 43(7): 696-701.
[6] 范新南, 鹿亮,史朋飞, 等. 结合MSRCR与多尺度融合的水下图像增强算法[J]. 国外电子测量技术, 2021, 40(2): 6-10.
FAN X L, LU L, SHI P F, et al. Underwater image enhancement algorithm by MSRCR and multi-scale fusion[J]., 2021, 40(2): 6-10.
[7] 张薇, 郭继昌. 基于白平衡和相对全变分的低照度水下图像增强[J]. 激光与光电子学进展, 2020, 57(12): 213-220.
ZHANG W, GUO J C. Low illumination underwater image enhancement based on white balance and relative total variation[J]., 2020, 57(12): 213-220.
[8] TENG L, XUE F. Remote sensing image enhancement via edge-preserving multiscale retinex[J]., 2019, 11(2):1-10.
[9] Rahman Z, Jobson D J, Woodell G. Retinex processing for automatic image enhancement[J]., 2004, 13(1): 100-110.
[10] HE K, SUN J. Guided image filtering[C]//, 2013, 35(6): 1397-1409.
[11] Kaur H, Rani J. MRI brain image enhancement using histogram equalization techniques[C]//2016(WiSPNET), 2016: 770-773.
[12] 吕侃徽, 张大兴. 基于自适应直方图均衡化耦合拉普拉斯变换的红外图像增强算法[J]. 光学技术, 2021, 47(6): 747-753.
LYU K H, ZHANG D X.Infrared image enhancement algorithm based on adaptive histogram equalization coupled with Laplace transform[J]., 2021, 47(6): 747-753.
[13] 王晓俊, 李莉莉. 基于CLAHE-DCP融合的水下图像增强[J].中国水运(下半月), 2021, 21(8): 60-62.
WANG X J, LI L L.Underwater image enhancement based on CLAHE-DCP fusion[J].(the second half of the month), 2021, 21(8): 60-62.
[14] 王梓丞, 尹勇. 基于色彩平衡及校正的水下图像增强算法[J]. 舰船科学技术, 2021, 43(21): 154-159.
WANG Z C, YI Y. Underwater image enhancement algorithm based on color balance and correction[J]., 2021, 43(21): 154-159.
[15] MA Jinxiang, FAN Xinnan, ZHU Jianjun ,et al. Multi-scale retinex with color restoration image enhancement based on Gaussian filtering and guided filtering[J]., 2017, 31: 16-19.
[16] 杨亚绒, 李恒,赵磊等. 改进的同态滤波与多尺度融合的水下图像增强[J/OL]. 机械科学与技术, 2021, 12(5): 1-9.
YANG Y R, Li H, ZHAO L, et al. Improved homomorphic filtering and multi-scale fusion underwater image enhancement [J/OL]., 2021, 12(5): 1-9.
[17] Horé A, Ziou D. Image quality metrics: PSNR vs. SSIM[C]// 20th, ICPR, 2010, 4(3): 28-29.
[18] YANG Miao, Arcot Sowmya. An underwater color image quality evaluation metric[J]., 2015, 24(12): 24-29.
An Underwater Image Enhancement Algorithm Based on Improved MSRCR-CLAHE Fusion
MA Minhui1,WANG Hongru1,2,WANG Jia1,2
(1. School of Mechanical Engineering, Jiangsu University of Science and Technology, Zhenjiang 212003, China; 2. Key Laboratory of Advanced Manufacture and Process for Marine Mechanical Equipment Research Institute, Jiangsu University of Science and Technology, Zhenjiang 212003, China)
To address the problems of color fading and low contrast in underwater images caused by the complex imaging environment in the ocean, improved Multi-Scale Retinex with Color Restore (MSRCR) and Contrast Limited Adaptive Histogram Equalization (CLAHE) multi-scale fusion algorithms for underwater image enhancement are proposed. First, the MSRCR algorithm with guided filtering was used to solve the problem of underwater image color fading. Second, the CLAHE algorithm with Gamma correction was used to improve the contrast of underwater images. Finally, the improved MSRCR and CLAHE images were fused at multi-scale to obtain an underwater image with enhanced detail. The experimental results show that, compared with other algorithms, the Peak Signal-To-Noise Ratio (PSNR) of the proposed algorithm is improved by 9.3914 on average, and the Structural Similarity Index Measure (SSIM) and Underwater Image Quality Evaluation (UIQE) increased by 0.3013 and 4.7047 on average, respectively, which can realize the effective enhancement of underwater images.
underwater image enhancement, CLAHE enhancement, MSRCR, guided filtering, Gamma correction, multi-scale fusion
TP391
A
1001-8891(2023)01-0023-10
2022-02-20;
2022-04-06.
马敏慧(1997-),男,硕士研究生,主要研究方向为机器视觉与图像处理。E-mail:1723164582@qq.com。
王红茹(1979-),女,工学博士,副教授,硕士生导师,研究方向为智能机器人技术。E-mail:wanghr@126.com。
国家重点研发计划资助项目(2018YFC0309100)。