马荣贵 王卫星 刘威 张艺 徐廉
(长安大学 信息工程学院, 陕西 西安 710064)
结合分数阶微分和暗原色先验及Retinex的去雾算法*
马荣贵王卫星†刘威张艺徐廉
(长安大学 信息工程学院, 陕西 西安 710064)
为提高雾霾天气图像的清晰度,提出了一种结合分数阶微分、暗原色先验及Retinex的去雾算法.首先将纹理丰富的雾霾天气下的图像进行分数阶微分,然后将分数阶微分后的图像作暗原色先验处理,并根据暗原色景深图信息计算其在图像中的Retinex尺度,最后对分数阶微分后的图像进行Retinex变换得到结果图像.对一系列雾霾天气下图像的测试结果表明:文中算法能够有效提高雾霾天气中模糊图像的清晰度,减少Retinex的光晕现象;与现有的多尺度Retinex及暗原色先验算法相比,对于纹理丰富及场景深度差异较大的雾霾天气下的图像,文中算法既能保持良好的增强效果,又可以加快运行速度.
图像增强;雾霾;分数阶微分;暗原色先验;Retinex变换;多尺度变化
我国是个多雾的国家,尤其是近年随着各项现代工业的蓬勃发展,环境污染问题越发突出.随着空气质量的恶化,出现雾霾天气的区域范围及持续时间也呈上升趋势,危害加重.据统计,2015年北京有179 d个被污染,而全年的最后46 d北京的PM 2.5浓度比2014年同期高出75.9%以上.2016年1月2、3日,华北中南部、黄淮、江淮中东部、江汉东部、四川盆地西部、陕西关中及东北地区中南部等地出现了中至重度污染,局地严重污染及有能见度不足200 m的强浓雾.“雾霾”已经成为2016年全国两会讨论的热点.
近年研究增强雾霾图像的方法可以分为基于图像处理及大气散射模型两类[1-3].基于图像处理的方法很多,如线性拉伸、对数变换、直方图均衡化及Retinex方法等.Retinex理论[4]是基于人脑视觉成像特点提出的,最先采用单尺度Retinex(SSR)方法进行图像增强.之后为了弥补SSR 的不足,Jobson等[5]提出了多尺度Retinex算法(MSR)及带色彩的多尺度Retinex增强算法(MSRCR).MSRCR虽然在突出细节的同时得到较好的颜色保真度,在色彩恢复能力上改善了单尺度Retinex算法的不足,但仍然存在两个问题:①算法除了需要进行3个尺度的加权求和外,还要对红、绿、蓝3个分量的信息分别进行处理,因此,该算法的复杂度较高;②在颜色变化较大区域的边缘部分,多尺度的滤波可能会导致严重的光晕现象[6].针对光晕现象,许欣等[7]采用Mean shift平滑滤波估计光照值,减少了因光照不均引起的光晕现象.为了降低MSRCR算法的复杂度,Morel等[8]结合Retinex理论和离散泊松等式,提出了一种快速的运行方法.但对于大小不同及多颜色车辆的场景,仅仅用Retinex的方法很难达到满意的图像增强效果.因为图像画面复杂,且图像中纹理增多,为了使纹理突显但又不增加太多的噪声,使目标物体在雾霾图像中清晰化,利用基于分数阶微分的算法进行图像的预增强可以取得较好的效果[9-10].
为此,在分数阶微分的基础上,针对MSRCR算法存在的问题,文中根据道路交通图像的特点,提出了一种基于暗原色景深特征的尺度变换的Retinex去雾算法.此算法将Retinex算法与雾霾图像的传播图相结合,然后基于景深的差异在图像的不同区域使用和景深相关的尺度进行高斯滤波.
图1Tiansi算子及改进分数阶微分算子模板(5×5)
Fig.1Template of Tiansi operator and improved fractional differential operator (5×5)
在图1中,v为分数阶微分的阶数,其值在区间(0.1,1.0)内,模板的中心权值u=(16v3-108v2+164v)/12+1,u随v的增加呈3次曲线上升趋势,当v=1.0时,u取得最大值7,小于Tiansi模板中的常数u=8.另外,在模板中每个像素的权值都不为0,也就是说每个周边的像素对被锐化的像素都有作用,从而可以避免只有几个像素产生的较大作用而导致噪声增强的现象.因此,在多数情况下(不同的v),新模板增加噪声的可能性及幅度都很小.如图2(a)所示,原始图像中有两条相反方向的路,有5辆汽车在路上,去向有3辆汽车,来向有两辆(一车紧跟另一车,不是很清楚),近处的3辆汽车比较明显,两边的路基上各停有一辆汽车(右边的一辆不是很清楚),路的两边是模糊的树木.经过Tiansi模板增强后,结果见图2(b),虽然路上的线条及两边的树木变得更明显,但由于噪声太强,致使近处的3辆汽车表面增加了太多的白色噪声,来向的两辆汽车似乎变成了一辆卡车,右边路基上的汽车也消失了.而采用文中改进的模板对原始图像进行增强,结果见图2(c),汽车、路上的线条及树木在新图像中都比原始图像清楚,但又没有图2(b)中那么多噪声.
图2两种模板对雾霾天道路交通视频图像的增强效果
Fig.2Enhancement effects of two templates for low visibility traffic video image
MSR算法常用于照度不均的图像增强,近年来也被用于雾霾天气图像增强.MSR算法是由大、中、小3个尺度的SSR加权得到.如图3(b)所示,当SSR算法的尺度参数c较大时,高斯函数曲线为扁平形状,故在卷积后对入射分量的估计较为平滑,颜色保真能力好,但动态压缩能力较差,导致图像中的细节增强效果不理想;而c较小时(见图3(c)),高斯函数曲线相对陡峭,当SSR的动态压缩能力较强时,图像的细节能够被突显出来,但颜色保真能力不好[11].
图3两种尺度下的SSR加权结果
Fig.3Two different SSR results
从图3还可以看到景深对Retinex图像增强效果的影响:对于尺度较大的SSR结果,其远处细节较为模糊(见图3(b)中深色方框内),近处物体颜色没有失真(见图3(b)中浅色方框内);对于尺度较小的SSR结果,其远处细节较清楚(见图3(c)中深色框内的电线杆、行人及桥上的汽车),而近处的物体颜色有所失真(见图3(c)中的浅色方框内).因此可以得到如下结论:当远处目标物体模糊及色彩暗淡时,可用小尺度的高斯函数作滤波来突出其细节;当近处物体较清晰及色彩鲜艳时,只有用较大尺度的高斯函数作滤波才能突出其颜色保真能力.
因此,针对景深差异较大的雾霾天气图像,文中提出了一种基于动态尺度的单尺度Retinex去雾算法:对距离相机镜头较近的部分进行大尺度的高斯滤波,而对离镜头较远的部分进行小尺度的高斯滤波.这种处理方式的优点是:①能使离镜头较远处的细节得到增强且近处的色彩可以不失真;②因为色彩变化较大的区域一般都在近处,对其进行大尺度的Retinex变换很少会产生光晕现象;③常规的SSR算法复杂度小于常规的MSR算法(其计算量是SSR算法的3倍).
3.1暗原色先验理论
在计算机视觉中,下述方程所描述的雾霾天图像的形成模型被广泛使用[12]:
I(x)=J(x)t(x)+A[1-t(x)]
(1)
式中:I为观测到的雾霾图像;J为景物光线强度;A为大气光;t为传播图,用来描述光线通过媒介透射到镜头过程中没有被散射的部分.去雾霾的目的就是从I中复原J、A、t,传播图t可表示为[13]
t(x)=e-βd(x)
(2)
式中,β为大气的散射系数,d为景物深度.
式(1)中的J(x)t(x)是直接衰减项,A[1-t(x)]
为大气光的成分[14].直接衰减项是景物光线在透射媒介过程衰减后的部分,而大气光成分是由前方散射引起的,这会导致景物颜色的偏移.式(2)表明,景物光线强度是随着景物深度呈指数衰减的.
暗原色先验理论[15]是根据对大量户外图像的统计规律得出的,在大多数非天空的局部区域,某些像素总会至少有一个颜色通道具有很低的亮度值,也就是暗原色,暗原色定义为
(3)
式中,Jc为图像J的第c个颜色通道,Ω(x)是以像素x为中心的块.通过大量统计实验发现,对于一幅清晰的图像,有
(4)
假定在一个局部块中,传播图t(x)是常数,根据雾霾天气下图像的成像模型,将式(1)的两边作暗原色变换,可得
[1-t(x)]
(5)
基于暗原色理论,式(5)等号右边第一项约等于0,故有
(6)
在雾霾天气图像中,离照相机镜头越远的地方雾气越厚,其暗原色图像的亮度值越大,而相应的传播图t的值越小.因而,传播图t可以比较准确地反映出图像的景深关系,据此可以估计出相应的大气光值A.
图4(a)中亮度最大的像素点可能会在白色的物体处(如白色小汽车等),故不能取亮度最大值作为大气光的值.文献[15]用暗原色先验规律来估计大气光的值,具体做法是:在暗原色图像中,把各像素点的亮度值从大到小进行排序,然后确定亮度值在前0.1%的点在暗原色图中所处的位置,认为这些位置所对应的原图像区域内的最大值即为大气光A的值[15].大量实验表明,当Ω(x)=15×15时,根据式(6)可以得到较为准确的传播图,如图4(b)所示.
图4雾霾公路交通图像及其暗原色传播图
Fig.4Hazy road traffic image and its estimated transmission map
3.2Retinex算法
理论上Retinex是一种人类视觉系统如何调节和感知物体亮度及颜色的基本模型[2].与传统的图像增强算法相比,Retinex算法在灰度动态范围压缩、边缘增强及颜色恒定3个方面达到平衡.Retinex的基本思想是:把原图像看成是由照射光图像L(x,y)和物体反射属性R(x,y)组成,即
S(x,y)=L(x,y)R(x,y)
(7)
式中,L决定图像的动态范围,R确定图像的内在性质.在本研究中,基于Retinex的图像增强就是从雾霾天气图像中消除亮度分量L的影响,从而获得反映图像本质特征的反射分量R.文中的SSR算法描述如下:
Ri(x,y)=lgIi(x,y)-lg[F(x,y)*Ii(x,y)]
(8)
式中,Ri(x,y)为SSR在第i个颜色通道的输出,*代表卷积,F(x,y)为环绕函数.式(8)中的卷积部分通常被认为是对照射光图像L(x,y)的估计.环绕函数通常使用高斯函数
(9)
式中:c为高斯函数的尺度参数,它决定了卷积的作用范围,c越小,动态范围压缩越大,则图像细节越突出,而尺度c越大,图像的整体效果越好,则颜色越自然,但细节不够清晰;K为规一化因子,其满足
∫∫F(x,y)dxdy=1
(10)
在去雾霾的应用中,为了能在细节保留和色感一致性方面皆取得较好的结果,一般都会采用MSR算法.其输出的是几个不同尺度SSR结果的加权:
(11)
式中:N为尺度个数;Rni为第n个尺度的第i个颜色通道上的SSR结果(高斯滤波尺度为cn);RMSRi为第i个颜色通道上的MSR结果;wn为第n个尺度的加权系数,一般只作平均加权.
决定MSR效果好坏的重要因素是尺度个数及尺度大小的选择.文献[5]取尺度个数为3,而取尺度大小为250、80、20.由于文中关注的是雾霾天气图像,其特点是景物模糊不清,突出细节是文中研究的重点.因此,基于多次实验,文中选取110、50、10作为高斯函数的尺度.对图5(a)雾霾图像进行MSR增强,结果如图5(b)所示,很明显,在树叶和路面之间出现了光晕现象.
图5雾霾图像及其MSR增强效果
Fig.5Hazy image and its MSR enhancing effect
在文中算法中,Retinex尺度是动态的,是在不同区域根据景深的不同而取不同的值.首先用15×15的掩膜求雾霾图像的暗原色图,然后根据式(6)求出传播图t(x,y).t(x,y)的取值为0到1之间的小数,取值越小代表离照相机镜头越远,取值越大代表离照相机镜头越近.
图4(b)所示15×15暗原色传播图反映了雾霾图像的景深变化,亮度小的区域离照相机镜头较远,而亮度大的区域离照相机镜头较近.文中算法对离照相机镜头较远的地方作小尺度变换,而对离照相机镜头较近的地方作大尺度变换.假设尺度参数c(x,y)与传播图t(x,y)的一种线性关系为
(12)
5.1对雾霾图像的增强效果比较
文中对一系列雾霾天气下的图像的实验结果表明:文中算法在取得较好的去雾霾效果的同时,也能够减少MSR算法的光晕现象.如图6所示,与MSR算法的增强效果相比,文中算法对在镜头近处的部分有较好的颜色保真能力,能突出远处景物的细节(原来不清楚的车辆),特别是在颜色变化较大的边界不会产生光晕(见图6(a)LED屏幕附近).其中暗原色去雾算法是基于文献[15-16]中的基本思想编程实现的.
(a)MSR算法(b)文中算法
图6两种算法对图3(a)图像的增强结果
Fig.6Results of enhancing the image in Fig.3(a) by two algorithms
如图7所示,暗原色先验算法没有取得好的增强效果,其结果图像有颜色失真(如树枝间的天空颜色变深),其原因是该算法在估计大气光时,选择的RGB三色值分别为217、210、184,从而导致复原后的图像颜色偏蓝(见图7(b));MSR算法虽然没有颜色失真,但纹理细节被模糊了(见图7(c));文中算法除了采用改进的分数阶微分来增强纹理细节外,还可以不用考虑大气光的三色,故文中算法的适应性较强(见图7(d)).
以图8为例,原图是以绿蓝色为主的雾霾天气下的山林图像,图像亮度及方差都特别低.3种算法的图像实验数据见表1.从图8和表1可知:MSR算法将图像亮度范围及相对误差拉大了许多,但图像颜色及明暗程度失真;暗原色先验算法在使图像红绿蓝比例变化不大(即颜色保真)的情况下,增强了图像亮度范围、方差及Sobel 和Robert的平均梯度值,但由于纹理细节不突出,使图像有些模糊;文中算法克服了上述两种算法的不足,增强了对比度,并在保持颜色不失真的情况下能够增强图像的纹理细节.为了扩展文中算法的应用范围及提高图像处理精度,今后将建立一种客观的雾霾等级评价算法,这有待于基于图论思想及三维激光扫描技术进行改进[19-20].·
(a)原始航空图像(b)暗原色先验算法结果(c)MSR算法的增强结果(d)文中算法的增强结果
图7 文中算法结果与MSR、暗原色先验算法对雾天道路图像的增强结果比较
图8文中算法与MSR、暗原色先验算法对航空图像的增强结果比较
Fig.8Comparison of enhancing results among the proposed algorithm, MSR and dark channel prior algorithms for areal image
像素熵是评价图像的一个重要指标,像素熵越大,说明图像单位面积包含的信息量越大.在雾霾交通图像的清晰化中,像素熵越大,则说明其增强效果越好,如图9所示.
表1 图8中4幅图像的性能比较
(a)雾天城市交通图像,像素熵为20.15(b)MSR算法结果,像素熵为21.80(c)暗原色先验算法结果,像素熵为21.35(d)文中算法结果,像素熵为22.19
图9文中算法与MSR、暗原色先验算法对雾天城市交通图像的增强结果比较
Fig.9Comparison of enhancing results among the proposed algorithm, MSR and dark channel prior algorithms for hazed urban traffic image
5.2算法复杂度比较
在文中算法中,分数阶微分算法是一种预处理的算法,因此文中只比较暗原色先验、MSR和改进MSR算法的复杂度.在i5(CPU)、内存为4 MB的计算机上进行试验,文中算法能够每秒实时处理至少25幅640×480彩色图像.对于更大尺寸的帧频,需要进行硬件设备的性能提升及算法程序的改进,才能满足实时处理的需求,这里不作详细叙述.
MSR算法的计算量主要集中在高斯滤波.根据文献[17]的快速算法,对一个有p个像素的矩阵进行高斯滤波,需要6p次乘法、2p次除法、6p次加法.MSR算法一般需要在3个尺度下分别作SSR计算,又需要对3种颜色分别作高斯滤波,故MSR算法需要进行54p次乘法、18p次除法、54p次加法运算.
暗原色先验去雾算法主要由求暗原色图、求大气光、导向滤波3部分构成.根据文献[18]的快速算法,求含有p个像素彩色图像的暗原色图需要比较4p次;求大气光需要作2%p2次比较,导向滤波需要32p次乘法、14p次除法、108p次加法,故暗原色先验去雾算法需要进行32p次乘法、14p次除法、108p次加法、4p+2%p2次比较运算.
文中算法(分数阶微分+改进的MSR算法)通过在PC机(Intel奔腾双核G3250,内存4 GB DDR3)上进行测试,每秒钟可以处理26幅图像(512×512),而通常的PCL制式视频速度为25幅/s,故采用文中算法可以对视频的500线图像进行实时处理.文中算法主要由求暗原色图和作SSR两部分构成,其需要进行18p次乘法、6p次除法、18p次加法、4p次比较运算.
终上所述,文中算法的复杂度在3种算法中是最低的,其运算速度比MSR算法提高了约3倍,比暗原色去雾算法提高了至少2倍.
为提高雾霾天气模糊图像的清晰度,文中提出了一种基于分数阶微分、暗原色先验及Retinex的图像增强算法,并采用该算法对不同雾霾图像进行处理,表明表明:对图像进行暗原色先验处理,可以获得图像的景深信息,在此基础上进行动态尺度的Retinex处理,可以得到较为理想的去雾霾效果;文中算法既能够达到常规算法(如MSR及暗原色先验算法)的去雾霾效果,又能减少光晕现象.对于场景深度差异较大的模糊图像,与暗原色先验及MSR算法相比,文中算法不仅提高了图像清晰度,而且提高了运行速度.为了扩展文中算法的应用范围及提高图像处理精度,今后将建立一种客观的雾霾等级评价算法.
[1]LIZhengguo,ZHENGJinghong,ZhuZijian,etal.Weightedguidedimagefiltering[J].IEEETransactionsonImageProcessing,2015,24(1):120-129.
[2]FANXin,WANGYi,GAORenjie,etal.Hazeeditingwithnaturaltransmission[J].TheVisualComputer,2016,32(1):137-147.
[3]郭璠,蔡自兴,谢斌,等.单幅图像自动去雾霾新算法 [J].中国图象图形学报,2011,16(4):516-521.
GUOFan,CAIZi-xing,XIEBin,etal.Newalgorithmofautomatichazeremovalforsingleimage[J].JournalofImageandGraphics,2011,16(4):516-521.
[4]LANDEH.AnalternativetechniqueforthecomputationofthedesignatorintheRetinextheoryofcolorvision[J].ProceedingsoftheNationalAcademyofSciencesoftheUnitedStatesofAmerica,1986,83(10):3078-3080.
[5]JOBSONDJ,RAHMANZ,WOODELLGA.AmultiscaleRetinexforbridgingthegapbetweencolorimagesandthehumanobservationofscenes[J].IEEETransactionsonImageProcessing,1997,6(7):965-976.
[6]刘高平,赵萌.基于亮度的尺度变化单尺度Retinex图像增强算法 [J].光电工程,2011,38(2):71-77.
LIUGao-ping,ZHAOMeng.AnadaptivesinglescaleRe-tinexschemeforimageenhancementbasedonluminance[J].Opto-ElectronicEngineering,2011,38(2):71-77.
[7]许欣,陈强,王平安,等.消除光晕现象的快速Retinex图像增强 [J].计算机辅助设计与图形学学报,2008,20(10):1325-1331.
XUXin,CHENQiang,WANGPing-an,etal.Afasthalo-freeimageenhancementmethodbasedonRetinex[J].JournalofComputer-AidedDesign&ComputerGraphics,2008,20(10):1325-1331
[8]MORELJM,PETROAB,SBERTC.APDEformalizationofRetinextheory[J].IEEETransactionsonImageProcessing,2010,19(11):2825-2837.
[9]WANGWX,LIWS,YUX.Fractionaldifferentialalgorithmsforrockfractureimages[J].TheImagingScienceJournal,2012,60(2):103-111.
[10]ZHANGShaoyang,WANGWeixing,LIUSheng,etal.Imageenhancementonfractionaldifferentialforroadtrafficandaerialimagesunderbadweatherandcomplicatedsituations[J].TransportationLetters:theInternationalJournalofTransportationResearch,2014,6(4):197-205.
[11]JANGJH,BAEY,RAJB.Contrast-enhancedfusionofmultisensorimagesusingsubband-decomposedmultiscaleRetinex[J].IEEETransactionsonImageProce-ssing,2012,21(8):3479-3490.
[12]NARASIMHANSG,NAYARSK.Visionandtheatmosphere[J].InternationalJournalofComputerVision,2002,48(3):233-254.
[13]TRIPATHIAK,MUKHOPADHYAYS.Singleimagefogremovalusinganisotropicdiffusion[J].IETImagePro-cess,2012,6(7):966-975.
[14]TANR.Visibilityinbadweatherfromasingleimage[C]∥ProceedingsoftheIEEEConferenceonComputerVisionandPatternRecognition.Washington:IEEE,2008:2347-2354.
[15]HEKaiming,SUNJian,TANGXiaoou.Singleimagehazeremovalusingdarkchannelprior[J].IEEETransactionsonPatternAnalysisandMachineIntelligence,2011,33(12):2341-2353.
[16]HEKaiming,SUNJian,TANGXiaoou.Guidedimagefiltering[J].IEEETransactionsonPatternAnalysisandMachineIntelligence,2013,35(6):1397-1409.
[17]YOUNGIanT,vanVLIETLucasJ.RecursiveimplementationoftheGaussianfilter[J].SignalProcessing,1995,44(2):139-151.
[18]VanHERKM.Afastalgorithmforlocalminimumandmaximumfiltersonrectangularandoctagonalkernels[J].PatternRecognitionLetters,1992,13(7):517-521.
[19]WANGWeixing,ZHANGXin,CAOTing,etal.FuzzyandtouchingcellextractiononmodifiedgraphMSTandskeletondistancemappinghistogram[J].JournalofMedicalImagingandHealthInformatics,2014,4(3):350-357.
[20]WANGWeixing,ZHAOWeisen,HUANGLingxiao,etal.Applicationsofterrestriallaserscanningfortunnels:areview[J].JournalofTrafficandTransportationEngineering(EnglishEdition),2014,1(5):325-337.
文章编号: 1000-565X(2016)09-0024-08
Supported by the National Natural Science Foundation of China(61170147)
AHazeRemovalAlgorithmCombiningFractionalDifferential,DarkChannelPriorandRetinex
MA Rong-guiWANG Wei-xingLIU WeiZHANG YiXU Lian
(SchoolofInformationEngineering,Chang’anUniversity,Xi’an710064,Shaanxi,China)
Inordertoimprovetheclarityofhazeimages,thispaperproposesahazeremovalalgorithmcombiningthefractionaldifferential,thedarkchannelpriorandtheRetinex.Inthealgorithm,ahigh-texturehazeimageisprocessedfirstthroughthefractionaldifferentialandthenthroughthedarkchannelprior.Moreover,onthebasisofthedepthmapobtainedthroughthedarkchannelprior,theRetinexscalesarecalculatedineachpartoftheprocessedimage.Finally,theimageenhancementresultisgotbyperformingtheRetinextransformoftheimageafterthefractionaldifferentialoperation.ThetestresultsofanumberofhazeimagesshowthatthenewalgorithmcaneffectivelyimprovetheclarityofhazeimageswithlessRetinexhalophenomena,andincomparisonwiththeexistingdarkchannelpriorandmulti-scaleRetinexalgorithms,ithasahigherprocessingspeedandabetterimageenhancementeffectforthehazeimagesofthehightextureandgreatscenedepthdifference.
imageenhancement;haze;fractionaldifferential;darkchannelprior;Retinextransform;multi-scalevariation
1000-565X(2016)09-0016-08
2016-03-22
国家自然科学基金资助项目(61170147)
马荣贵(1966-),男,教授,主要从事光学工程及模式识别研究.E-mail:rgma@chd.edu.cn
王卫星(1959-),男,教授,博士生导师,主要从事信息工程及图像处理研究.E-mail:wxwang@chd.edu.cn
TP 39
10.3969/j.issn.1000-565X.2016.09.003