牛宏侠,王春智
(兰州交通大学a.自动化与电气工程学院,b.甘肃省高原交通信息工程及控制重点实验室,c.光电技术与智能控制教育部重点实验室,兰州 730070)
由于沙尘颗粒对光线的反射,会对成像设备获取清晰的图像产生很大干扰,进而影响到行人检测、目标识别等领域.因此研究沙尘图像的清晰化算法对于计算机设备提取图像目标信息具有很强的现实意义和价值.
目前处理沙尘图像的方法主要是基于图像增强和图像复原的方法,近年来也有一些学者研究基于深度学习的处理方法来解决雾霾问题.
基于图像增强的方法没有从物理成像的方式考虑,重在提升图像的视觉效果.文献[1]提出先利用高斯模型进行偏色校正,再利用改进的基于奇异值分解增强算法提升图像对比度.该算法对于图像清晰度恢复有较好效果,但是对于图像的偏色问题处理效果欠佳,会呈现前景偏蓝的现象.文献[2]提出在蓝色通道补偿和白平衡校正色差的基础上,利用导向滤波提升图像对比度和边缘精度,在算法效率方面提升显著,但是解决图像的偏色问题仍存在不足.文献[3]提出利用绿色分量补偿其他通道的方式进行偏色校正,并基于最大直方图的颜色像素进而移动直方图重叠达到沙尘图像增强的目的,该算法能较好地解决图像偏色问题,但是处理后存在薄雾的干扰,导致图像清晰度恢复效果仍有待提升.
基于图像复原的方法通常基于大气散射模型进行反推得到清晰图像.该类算法在处理沙尘图像时,基本都是在校正色偏的基础上,利用暗通道先验[4]求取大气光值并优化透射率,进而去除雾霾的影响.文献[5]在Lab 空间颜色校正的基础上,提出基于光晕还原的暗通道先验算法来恢复沙尘图像,该方法提升对比度效果显著,但是处理后容易产生过度曝光问题,对于降质较为严重的沙尘图像,也难以有效解决色偏问题.文献[6]在基于高斯模型色偏校正的基础上,再利用明暗通道相结合的方式,优化透射图和大气光值,得到清晰的去沙尘图像,但是该算法对于对比度的提升效果仍有待提高.文献[7]利用容差机制来优化天空区域估计的透射率并使用自适应颜色校正因子来解决色彩偏移问题,该算法对于图像的远景细节处理能力还需进一步加强.对于降噪方面的图像复原方法,文献[8]提出基于自相似性和低秩表示的图像盲复原算法,该算法对于模糊图像去噪具有较好效果.
虽然目前也提出不少基于深度学习的处理方法,但是多用来处理雾霾天气图像,如果针对沙尘图像进行设计,还需重点解决图像偏色问题.文献[9]提出一种基于双域分解的卷积神经网络去雾模型,可以直接实现端到端去雾,处理后具有较好的测评效果.文献[10]设计了多尺度深度学习网络用来去除雾霾影响,该网络通过融合高频子雾网络与低频子雾网络学习到的透射率,再根据大气散射模型得到恢复后的清晰图像.文献[11]针对沙尘图像设计了一种色彩恢复网络,先通过伪彩色特征映射设计卷积网络进行偏色校正,再利用基于编码解码器的网络架构设计进行图像增强,该网络模型对于合成沙尘图像恢复效果显著,但是应用在真实的沙尘图像中,清晰度恢复效果仍需进一步提高.
针对上述算法中存在的问题,本文作者在文献[3]的基础上进行改进,提出一种基于HSI(Hue,Saturation,Intensity)空间的沙尘图像增强算法.
HSI 空间算法是基于图像增强的设计方法,主要从偏色校正和后处理增强两部分处理图像.偏色校正方面先在RGB 空间利用绿色通道补偿其他颜色通道,再利用绿色通道均值拉伸调整直方图分布,从而得到三通道分布集中的无色偏图像;后处理增强方面利用HSI 通道间互不干扰的特性,将校正后的RGB 图像转到HSI 空间,H(色调)分量保持不变,分别对S(饱和度)分量进行自适应饱和度调整和I(亮度)分量进行限制对比度自适应直方图均衡化(CLAHE)算法处理.最后,合并通道转到RGB 空间,得到最终的清晰去沙尘图像.本文算法流程如图1 所示.
图1 基于HSI 空间的沙尘图像增强算法流程框图Fig.1 Block diagram of sand-dust image enhancement algorithm based on HSI space
1.1.1 初始化偏色校正
由于沙尘图像具有通道偏离的特性[12],首先对于图像各通道采取加权绿色通道的方式进行补偿,可有效调整图像的红色通道和蓝色通道,使蓝色通道的平均值和标准差得到一定增强,红色通道的平均值和标准差得到一定程度的减弱.其基本实现如下
式中:Ic(x)表示原始各通道的像素值;(x)表示经过补偿后各通道对应的像素值;Δc表示绿色通道的权重因子,为3 个权重系数分量的乘积,如下
式中:是基于平均值的全局权重系数;是基于标准差的全局权重系数(x)是基于像素的局部加权因子.各权重系数的具体计算公式为
式中:m(Ic)表示求各通道的像素均值;σ(Ic)是求取各通道的标准差;r,g,b 则分别代表红、绿、蓝三颜色通道.
经上述公式计算补偿后,实现结果如图2 所示.
图2 初始化色彩校正结果Fig.2 Initial color correction results
从图2 处理结果可以看出,经初始化偏色校正算法处理后,并不能完全去除色偏影响,该步骤主要是以绿色通道作为补偿量,对图像的红色通道和蓝色通道进行调整,图像调整后具体参数如表1 所示,绿色通道的平均值和标准差基本不变,红色通道的平均值和标准差减小,相对的蓝色通道平均值和标准差增大.经该步骤处理后为后续颜色归一化提供基础.
表1 初始化色彩校正处理前后图像参数对比Tab.1 Comparison of image parameters before and after initial color correction processing
1.1.2 绿色通道保持颜色归一化
在初始化调整红蓝通道的基础上,进一步根据绿色分量的均值拉伸其他通道,达到有效校正色偏的目的,具体实现为
最终色彩平衡结果如图3 所示,处理后图像三通道直方图集中分布,色偏问题已基本解决,而且从视觉效果来看,也具有很好的色彩保真度,但是图像整体的对比度和饱和度提升不明显,仍需进一步处理获得更为清晰的去沙尘图像.
图3 色彩校正处理后图像与直方图对比结果Fig.3 Comparison of image and histogram results before and after color correction processing
文献[3]在上述色彩平衡算法的基础上,在RGB 空间基于最大直方图重叠的颜色像素偏移和最终的像素调整算法进行处理,经大量实验验证发现,后续步骤对提升图像对比度效果不明显,而且难以保证很高的算法效率.因此本文对该算法进行改进,由于在RGB 颜色空间调整图像对比度会产生通道间的相互影响,可能会进一步导致色偏问题,而转到HSI 空间分离各通道进行调整能较好地避免该问题,因此本文设计的改进算法是在文献[3]色彩平衡的基础上,对于图像后处理部分取代原本在RGB 空间进行的颜色像素偏移和像素调整算法,转而在HSI 空间中进行自适应饱和度调整和利用CLAHE算法调整图像对比度.
其中RGB 空间各颜色分量和HSI 空间相应分量的转换实现过程为
利用上述公式转换分离各通道,由于前续算法中已校正沙尘图像的偏色问题,所以本文保持H分量不变,仅对S分量和I分量分别进行增强处理.对于S分量提出自适应饱和度增强的方式,I分量采取CLAHE 算法提升对比度.
1.2.1 自适应饱和度增强
饱和度补偿对图像的视觉效果提升有重要作用.文献[13]利用饱和度补偿因子进行调整饱和度,虽然通过各通道像素最大值进行限制,但是处理后仍会呈现饱和度过度增强的问题.本文针对色彩平衡算法处理后图像整体饱和度偏低的问题,在S通道对于饱和度分量提出自适应补偿的方式.设初始图像的饱和度分量为S(i,j),经调整后的饱和度分量为S'(i,j),调整过程为
式中:Smax为饱和度分量的最大值;Smin为饱和度分量的最小值.S 通道经该式处理后,可以实现全局自适应调整图像饱和度,不会产生饱和度过度增强的现象,从而展现更好的视觉效果.
1.2.2 CLAHE 算法提高对比度
沙尘图像经偏色校正后,由于雾霾的干扰图像对比度较低,此处在保证图像清晰度的同时,采用图像增强的方式进一步提升图像对比度,淡化雾霾的影响.本文利用限制对比度自适应直方图均衡化算法(CLAHE)在I 通道进行进一步提升.
文献[14]提出在Lab 颜色空间使用归一化幂律校正的CLAHE 算法处理沙尘图像,改进后对于对比度提升有一定作用,但是容易导致图像过增强而呈现出图像过曝的现象.文献[15]是在RGB 颜色空间使用该算法处理水下图像,由于水下图像本身偏暗,处理后不会有明显的过增强问题,但是算法耗时会有相应增加.相比于在RGB 空间针对三通道分别进行CLAHE 算法处理,在HSI 空间处理能在不改变整体直方图分布变化的基础上进行对比度的提升,而且单通道的处理效率相比三通道整体处理,算法效率也会明显提高.
针对传统直方图均衡化是在全局范围进行调整容易导致图像过增强和突出背景噪声的问题,CLAHE 算法通过分块处理图像各部分并将截取的像素通过插值的方式重新分配,从而得到对比度高的增强图像.该算法的具体实现过程为
1)获取到I 通道的亮度分布图像.
2)将该分布图像分割成若干大小相同的非重叠区域并分别计算其累积直方图.
3)重新分配直方图的灰度值,设置直方图重新分布的阈值,阈值的确定通过β值计算.
式中:M×N表示每一分割区域的大小;L代表灰度值;α表示裁剪阈值;Smax表示最大斜率,通常设置为1~4 范围内.本文设置α为1.0,每块分割区域为8×8大小.
4)直方图均衡化处理.将超过β阈值的灰度分布均衡化处理,使其分散至概率密度分布上.在重构像素点分布时,采用双线性插值的方式计算灰度值,由此得到灰度值重新分布的高对比度图像.
沙尘图像经所提算法处理后对比结果如图4所示.
图4 HSI 空间增强算法处理对比Fig.4 Comparison of HSI spatial enhancement algorithm processing
图4(b)、4(c)展示出经本文提出的HSI 空间增强算法处理后,图像整体饱和度和对比度相比原算法都有相应提升,而且从图4(e)、4(f)细节对比可以看出,经本文算法处理后图像的清晰度恢复效果也更具优势.
本文基于大量沙尘图像进行实验,图像数据均来源于相关论文、百度图片.实验在Intel®CoreTM i7-10750H CPU@2.60GHz,16.00GB 内存,安装有win10 操作系统的计算机设备上进行运行,编程语言为Python 和Matlab.为验证本文算法的有效性和先进性,将本文算法与其他主流的去沙尘算法进行对比,如Fu 算法[16]、Pan 算法[12]、Shi 算法[5]和Park算法[3].本文选取部分实验数据进行定性和定量分析.
本文算法与其他算法对比的实现效果如图5所示.
图5 展示了在不同降质程度的沙尘天气图像中各算法处理后的效果,从实验中可以看出经Fu 算法处理后,能一定程度校正色偏,但图像清晰度恢复较差;经Pan 算法处理后,清晰度有很大提升,但是对于降质较为严重的沙尘图像,如图5(b2)、图5(b3),处理后仍存在一定偏色问题,并且处理图5(b5)后蓝色伪影问题也较为严重;经Shi 算法处理后,图像整体清晰度和对比度显著提高,但是对于降质严重的沙尘图像如图5(b3)、图5(b4)也无法有效校正色偏,而且存在过度曝光的问题,恢复图像视觉效果上不自然;经Park 算法处理后,色彩平衡和清晰度恢复效果都有一定提升,但是受雾霾影响,清晰度仍有待提高;本文算法在图像清晰度和对比度恢复方面进一步提升,色彩恢复自然,已基本看不出有雾霾的影响,如图中红色框选部分细节对比所示.
图5 本文算法与其他去沙尘算法处理对比Fig.5 Comparison of images processed by the algorithm of this paper with other dedust algorithms
由于目前专门针对沙尘图像的图像质量评价指标没有统一标准,本文选取了几个通用的评价指标:平均梯度、信息熵和对比度进行分析.平均梯度是反映图像灰度特征的变化率,可表征图像的相对清晰程度,平均梯度越大,图像层次越多,图像越清晰;信息熵反映图像灰度分布的信息量,信息熵越大,图像细节越丰富;对比度则是衡量图像灰度反差大小,图像对比度越高,图像各色阶的色彩表现更为突出.
从表2 参数信息熵、对比度、平均梯度来看,相比其他先进算法,本文算法的信息熵基本相差不多或优于其他算法,表明经本文算法处理后,细节信息恢复能力较强.对比参数平均梯度和对比度,除去Shi 算法,与其他对比算法相比,本文算法参数表现最为突出,表明本文算法可以获得去沙尘效果明显,对比度高的恢复图像.而Shi 算法利用伽马函数改进的CLAHE 算法提升对比度,所以参数表现优异,但是从图像的恢复能力来说,图像保真度效果较差,并且结合大量实验的主观视觉效果来看,Shi 算法仍存在图像色彩过度曝光的问题,色彩校正方面也需要进一步改善.因此,综合各算法的定量和定性表现,本文算法对于恢复后的沙尘图像细节表现能力良好,而且在保证图像保真度的同时,还具有更好的对比度和清晰度提升效果.
表2 不同去沙尘方法处理后的定量分析结果Tab.2 Quantitative analysis results after processing by different dedust methods
续表
从表3 各算法运行时间和图6 统计的各算法平均运行时间不难看出,对于不同分辨率的图像,相比于其他主流算法,本文算法的运行速度最快,而且本文算法在基于Park 算法的改进上,平均时间效率提升77%左右.这说明本文算法在算法效率上提升显著,已基本达到算法设计实时性的要求.
图6 各算法平均运行时间统计Fig.6 Average running time statistics of each algorithm
表3 各算法运行时间比较Tab.3 Comparison of the running time for each algorithm
1)针对现有去沙尘算法存在的图像恢复对比度不足和算法效率较低的问题,设计了基于HSI 空间的沙尘图像增强算法,在偏色校正的基础上,转至HSI 颜色空间,分别在饱和度通道和亮度通道进行自适应饱和度调整和CLAHE 算法处理.
2)实验证明,本文算法不仅在原有算法的基础上,保证了足够的清晰度和对比度,而且算法效率提升明显,具有更好的应用价值.而且相比其他主流算法.本文算法在保证色彩保真度的同时,图像细节体现更为清晰,在客观评价指标中也具有明显优势,证明了本文算法的先进性.但是对于大片天空区域,经本文算法处理后仍会产生光晕现象,未来将对此问题进一步研究.