林珊玲,谢欣欣,林坚普*,林志贤,3,郭太良
1 福州大学 先进制造学院,福建 泉州 362251;
2 中国福建光电信息科学与技术创新实验室,福建 福州 350116;
3 福州大学 物理与信息工程学院,福建 福州 350116
电泳电子纸具备和普通纸张一样的反射型、宽视角特性,在使用过程中不会因为背板光源的存在而伤害眼睛。同时电泳电子纸还具有低功耗、双稳态的优点,所以常常适用于电子书籍、货架价签和广告牌[1]。它的护眼特点使其深受大众喜爱,进而人们对彩色电泳电子纸抱有更多的期待,但目前仍存在显示图像细节不清晰,色彩失真等问题。
本文中的电子纸显示屏采用的是E-ink 微杯型彩色电泳电子纸[2],微杯中包含白色、品红色、黄色和青色粒子,这些粒子本身都带有正电荷或负电荷。电子纸内壁集成了栅极和源极驱动模块,在栅极和源极给予设计好的电压序列,微杯内部形成电场,粒子在电场力作用下运动,呈现指定图像。目前市场上的彩色电泳电子纸的显示是根据CMY 减色原理,一个像素可以表达32 种不同的颜色,利用颜色抖动算法可以实现六万种颜色左右[3]。颜色抖动算法[4]主要包括随机颜色抖动、有序颜色抖动和误差扩散颜色抖动。其中误差扩散算法应用广泛,适合电子纸这类反射式显示器件。在实际应用中,彩色电子纸内部带电电荷的运动是受施加电压的控制,施加电压的大小和时间会影响到电泳粒子的迟滞特性,导致电子纸残影现象和预期色阶不能够精准再现的问题。最终在显示图像时出现图像失真、边缘信息丢失和颜色饱和度不够等问题。
从图像处理的角度出发,最常用的是误差扩散算法来解决上述问题。Floyd 和 Steinberg[5]两位研究学者提出了经典的Floyd-Steinberg 误差扩散算法。将当前像素值与阈值化后像素值的误差采用Floyd-Steinberg 滤波器扩散到周围像素点,在一定程度上和单纯截取高四位算法比较,图像更加平滑和自然。但是还存在图像颜色失真、颗粒感严重的问题。林夏微等[6]针对黑白电子纸灰阶少提出一种基于误差扩散动态检测的改进算法,改善了黑白电子纸的图像显示质量,但显示图像的固定纹路和边缘不够清晰。赵静等[7]提出的基于HVS 模型的误差扩散系数,提高了误差扩散算法在色彩上的还原度。但在人的主观感受中图像的纹理更多。曾素云等[8]提出基于像素邻域灰度信息的误差扩散算法,以保持图像的边缘和丰富度,但是仅仅在灰色图像实现,没有考虑将新算法扩展到彩色图像或其他类型的图像。Kaiming Wu 等[9]提出利用一维Neugebauer 模型(一种用于印刷网点呈色的数学模型)重新表述灰度误差扩散,然后增加模型的维度,得到基于三维Neugebauer 模型的RGB 空间中的彩色误差扩散方法。相比较传统彩色误差扩散方法更好地保留了原始图像的色调和降低了噪声,但适用性和效率太低。
基于以上研究,为进一步提高误差扩散算法在电泳电子纸上的表现力,增强彩色电泳电子纸的饱和度,本文算法结合了传统的误差扩散算法和彩色电泳电子纸的特性分析,提出了基于HSL 空间的边缘增强的误差扩散算法,使得经过本文算法处理后的图像在彩色电子纸上显示的图像细节更丰富,颜色饱和度更加接近原图。
误差扩散算法可以使得电子纸显示的图像在视觉上具有更多的色阶层次,提高图像质量。传统的误差扩散算法如图1 所示。
图1 Floyd-Steinberg 误差扩散原理框图Fig.1 Block diagram of Floyd-Steinberg error diffusion
图中的f(m,n)、f∗(m,n)、b(m,n)和e(m,n)分别表示原像素值、误差扩散之后像素值、量化后像素值和量化前后像素误差值。
算法主要步骤:在彩色图像RGB 空间中分别处理每个通道的像素点,当前像素点f(m,n)加上邻近像素点扩散误差∑H(k,l)·e(m-k,n-1)两者和为f∗(m,n),并根据电泳电子纸的硬件特性,设置阈值区间。阈值化处理后输出像素值b(m,n),阈值化前后值之间的误差e(m,n)利用传统的误差扩散滤波器H(k,l)扩散到周围像素上。最后,将三个颜色通道的处理后的像素点合成一幅新的彩色图像。主要公式为:
传统的误差扩散滤波器H(k,l)系数如表1 所示,其中系数6/17、1/17、5/17 和3/17 指在分配误差时,相邻像素的权重比例;星号表示当前像素。
表1 Floyd-Steinberg 误差扩散滤波器系数Table 1 Floyd-Steinberg error diffusion filter coefficient
一幅图像可以分为低频和高频部分,增强图像边缘也就是增强图像高频区域。边缘区域的像素点的灰度值梯度相较于非边缘区域大,梯度是指图像的像素点沿着不同方向的变化率,梯度越大该像素点变化越剧烈。因此可通过边缘检测算子来区分边缘区域与非边缘区域。常见的边缘检测算子有Sobel 算子、Roberts 算子和Laplace 算子。Laplace 算子的优点就是面对图像边缘多样的梯度方向都能够严格检测。对于一个连续的二元函数P(x,y),其Laplace 运算定义为
对于数字图像,Laplace 算子可以简化为
此外,Laplace 算子也可以用模板的形式[10]。为增加对角线方向的灰度变化,产生更强烈的边缘增强效果。本文采用如下所示的Laplace 算子扩展模板:
拉普拉斯算子扩展模块的原理是利用负值来增强图像中的边缘和细节,相比其他的基本拉普拉斯算子,可以更好地保持图像的各向同性。
HSL 空间由色调、饱和度和亮度描述图片,更符合人眼的主观感受。因此可通过在HSL 空间对饱和度进行调整,从而增强显示图像的饱和度。其算法步骤如下:首先将RGB 空间图像转换到HSL 空间,用来对饱和度s进行上下限控制:
其中:L表示亮度,s表示饱和度,Imin和Imax代表RGB 空间的R、G、B 颜色值中的最小值和最大值。
设置饱和度增量i,并计算出适用于RGB 空间的调整系数alpha进行饱和度调整。当i+s大于1 时,取s作为调整依据,当i+s小于1,取i作为调整依据。RGB 空间的调整系数alpha为
计算出调整系数后,将调整系数运用在RGB 空间对RGB 进行调整,调整公式为
电子纸作为一种反射式显示屏,其显示图像的饱和度受到外界环境光的影响比传统显示屏更大,且人眼感知的色彩饱和度随着外界光照变弱而变低,因此所观察到的显示图像会存在色差和失真。因此本文提出基于HSL 边缘增强的误差扩散算法,算法基本流程如图2 所示。首先将输入的RGB 图像进行平滑去噪处理,避免噪声影响后续的边缘检测。接着将图像与拉普拉斯扩展模板算子进行卷积运算[11],得到拉普拉斯图像。图像分层过程如式(10)和式(11)所示:
图2 (a)误差扩散算法流程图;(b)图像饱和度增强流程图Fig.2 (a) The flow chart of error diffusion algorithm;(b) The flow chart of image saturation enhancement
式中,F(m,n)为输入的RGB 图像各通道的像素值,g(m,n)为各通道拉普拉斯图像,g′(m,n)为边缘增强后图像。
人眼不仅对图像灰度信息敏感,对图像像素结构信息也敏感。因此在边缘增强后图像中结合像素邻域相似度和人眼视觉感知差异来提取图像像素结构信息。依据当前像素与邻近八个像素之间的平均偏差计算像素相似度,平均偏差越小,相似度越大[12]。而当前像素对于邻域像素的影响与像素之间的欧式距离相关,两像素越近影响越大,权重越大。因此用欧式距离来衡量两像素之间的偏差[8],计算公式为
其中:3×3 为邻近像素区域大小;g′(m,n)为当前像素点灰度值;α 为控制因子,控制对函数的影响来保留细节平滑噪声。选取0.01 作为步进,0 到1 作为范围进行实验,通过主客观评价选择合适的参数代表,α取0.4。
人眼视觉感知差异∆g′(m,n)表示当前像素与周围像素平均灰度(m,n)的差异,差异越大为边缘信息概率越大。公式为:
根据上述像素邻域相似度和人眼视觉感知差异提取到的图像像素结构信息,构造出一个新的RGB 图像函数,公式为
式中:β是控制调节阈值信息的系数取0.01,G(m,n)为新的输入像素值,记作u1(m,n),将u1(m,n)进行阈值处理得到量化后的输出像素值B(m,n),公式为:
量化前后像素值相减得到误差E(m,n)=F(m,n)-B(m,n),利用传统误差扩散滤波器扩散到邻域像素,整个误差扩散算法循环反馈,最终得到一幅新的RGB 图像u(m,n)。
由于彩色电泳电子纸具有16 色阶,所以这里的量化函数的阈值区间分为16 段,误差扩散算法的阈值模型如式(18)~(19)所示:
其中:Ti和Ti+1为两个可变阈值,i依次从1 取到16,对应的256 级RGB 图像映射到色阶为16 级的彩色电泳电子纸上显示。
最后,将新的RGB 图像转换到HSL 色彩空间,利用了2.3 节所述HSL 增强饱和度算法原理,其中i设置为0.3。在HSL 颜色空间根据图像亮度区域划分决定饱和度的区域划分,结合亮度和饱和度构造出RGB 色彩增长系数alpha,最后图像再转换回RGB颜色空间,alpha作为RGB 三通道的增强权重,可以用来改善图像的视觉效果。
本文从客观和主观两个角度来评价不同算法处理后的图片质量。客观上我们从PSNR、SSIM 和UCIQE 三个评价指标出发,用指标数据量化不同算法处理后的图像失真度和相似度。主观上从人眼的感受出发,分析图像的对比度、边缘清晰度和图像色彩饱和度这三个重要的视觉特征,比较不同算法处理后的图像在这三个视觉特征上面的差异性。
本文使用了Matlab2022 进行图像预处理实验,Lena 图和Baboon 图作为测试图,采用经典Floyd-Steinberg 边缘增强误差扩散算法、Knox 边缘增强误差扩散算法[13]、Kwak 边缘增强误差扩散算法[14-15]和本文算法对测试图进行图像处理。不同算法的效果图如图3~图7 所示,其中局部细节图如图4、图5 和图7 所示。
图3 (a) Lena 原图;(b) Floyd-Steinberg 算法效果图;(c) Knox 算法效果图;(d) Kwak 算法效果图;(e) 本文算法效果图Fig.3 (a) Lena original image;(b) Floyd-Steinberg algorithm rendering;(c) Knox algorithm rendering;(d) Kwak algorithm rendering;(e) Algorithm rendering of this article
图4 (a) Lena 原图帽子细节图;(b) Floyd-Steinberg 算法帽子细节图;(c) Knox 算法帽子细节图;(d) Kwak 算法帽子细节图;(e) 本文算法帽子细节图Fig.4 (a) Detailed picture of Lena’s original hat;(b) Detailed picture of Floyd-Steinberg algorithm hat;(c) Detailed picture of Knox algorithm hat;(d) Detailed picture of the Kwak algorithm hat;(e) Detailed picture of the algorithm hat of this article
图5 (a) Lena 原图眼部细节图;(b) Floyd-Steinberg 算法眼部细节图;(c) Knox 算法眼部细节图;(d) Kwak 算法眼部细节图;(e) 本文算法眼部细节图Fig.5 (a) Detailed picture of Lena’s original eyes;(b) Detailed picture of Floyd-Steinberg algorithm eyes;(c) Detailed picture of Knox algorithm eyes;(d) Detailed picture of the Kwak algorithm eyes;(e) Detailed picture of the algorithm eyes of this article
图6 (a) Baboon 原图;(b) Floyd-Steinberg 算法效果图;(c) Knox 算法效果图;(d) Kwak 算法效果图;(e) 本文算法效果图Fig.6 (a) Baboon original image;(b) Floyd-Steinberg algorithm rendering;(c) Knox algorithm rendering;(d) Kwak algorithm rendering;(e) Algorithm rendering of this article
图7 (a) Baboon 原图鼻部细节图;(b) Floyd-Steinberg 算法鼻部细节图;(c) Knox 算法鼻部细节图;(d) Kwak 算法鼻部细节图;(e) 本文算法鼻部细节图Fig.7 (a) Detailed picture of Lena’s original nose;(b) Detailed picture of Floyd-Steinberg algorithm nose;(c) Detailed picture of Knox algorithmnose;(d) Detailed picture of the Kwak algorithm nose;(e) Detailed picture of the algorithm nose of this article
为评估算法的表现能力,实验选取Kodak24[16]和CBSD68[17]两组彩色图像数据集。相较而言,Kodak24图像数据集亮度更高色彩更加丰富,CBSD68 图像数据集的整体偏暗淡。本文算法在Kodak24 和CBSD68两组彩色图像数据集上与其他误差扩散算法对比。同时采用算法后图像与参考图像之间的峰值信噪比PSNR 和结构相似度SSIM 作为图像失真性能评价指标。采用改进的水下图像评价指标UCIQE 作为图像饱和度增强评价指标[18]。评估结果如表2 所示。
表2 不同边缘误差扩散增强后图像的SSIM、PSNR 值和UCIQE 值Table 2 SSIM,PSNR,and UCIQE values of images after different edge error diffusion enhancements
由于本文算法是基于HSL 空间饱和度增强,而信噪比和相似度主要反映图像的失真度,不能够有效地衡量饱和度的增强效果,只能作为本文算法的辅助评价指标。所以本文还采用了水下图像评价指标UCIQE,它是结合图像的色度、饱和度和对比度的线性组合,最初作为评价水下图像的标准。主要公式为
其中:sigma、contrast和saturation分别表示色度、对比度和饱和度,c1、c2和c3表示权重系数。由于本文算法目的是增强图像的饱和度,所以在公式中将权重系数c1和c2置为零,c3置为1。
其中saturation的计算过程:首先将RGB 图像转换到Lab 色彩空间,计算图像颜色的纯度颜色的鲜艳程度图像平均饱和度M×N为图像的像素大小,L表示图像的亮度值,a和b表示红绿色差、黄蓝色差。这样,UCIQE 的值反映了图像的饱和度水平。UCIQE 值越大,说明图像的饱和度越高,增强效果越好。
从表2 可以看出,在数据集Kodak24 中经本文算法处理后图像较Floyd-Steinberg、Knox 和Kwak 算法处理后图像峰值信噪比分别提高了8.0%、26.7%、10.2%。CBSD68 数据集信噪比分别提高7.0%、23.4%、10.3%。在相似度方面Kodak24 数据集上较其他三种算法分别提升了22.3%、23.6%、25.5%。CBSD68 数据集相似度提升了14.5%、13.2%、13.7%。在饱和度方面Kodak24 数据集上较其他三种算法分别提升了24.8%、22.5%、26.5%。CBSD68 数据集饱和度分别提升48.2%、32.2%、31.8%。从以上数据分析中得知,本文算法能够在保证图像的保真度的同时,还能够提高图像饱和度。
验证采用的是型号为AC133UT1 的彩色电泳显示屏,屏幕尺寸13.3 英寸,显示分辨率为1600 像素×1200 像素,最大屏幕刷新率为65 Hz。实验拍摄环境在暗室中进行,暗室设置灯光源,灯光光源的色温为4000 K 和亮度为3500 cd/m2。电子纸屏幕在位移台进行固定。图8 为本文算法处理前后图像在电泳电子纸上显示的效果图。可以看出,人物帽体的纹理和帽子的羽毛更加清晰,人物眼部周围细节更多。花群的原图叶子部分色彩偏黑,增强后叶子部分更绿,整体上图像色彩更加饱和,细节更多。
图8 (a) Lena 原图显示效果图;(b) 本文算法处理后Lena 显示效果图;(c) 花丛原图显示效果图;(d) 本文算法处理后花丛显示效果图Fig.8 (a) Rendering of the Lena's original image;(b) Lena display effect after the algorithm processing in this paper;(c) Renderings of the original drawings of the flowers;(d) Effect of the flowers display after the algorithm processing in this paper
为进一步说明算法的效果,参考ITU-R BT.500-14 标准[19],选取实验室40 名人员进行主观评价打分。其中男性22 名,女性18 名,年龄在22~45 岁之间,具有正常(或矫正后正常)的视力和彩色视觉。实验环境如4.2 所述,实验测试前向评价人员介绍测试方法、评价指标和评分等级。参考ITU-RBT.500-14 标准定义的双刺激连续质量分级法DSCQS,将待评估图像序列和相应的原图交替播放给评估者看,每个图像持续时间为10 s,每个图像之后有2 s 的灰画面间隔,评估者可在此期间打分。
选取图像库中的人物、风景、房子等图像,分别获取彩色电泳电子纸显示效果图,让评价人员对图片进行主观打分实验,计算原图和本文算法图在上屏显示的Z 得分[20],得分结果如表3 所示。根据Z 得分情况,充分说明了本文算法的有效性。
表3 不同显示效果图的Z 得分Table 3 Z-scores for different display renderings
电泳电子纸粒子主要受三种力:粒子间相互作用力、溶剂的粘滞阻力和电场力。三者之间的受力不均匀导致粒子到达公共电极时间延迟,最后电子纸显示的图像色彩饱和度低,边缘细节模糊丢失等,影响电子纸使用者的感受。目前除了器件方面的研究,图像处理技术也可以很大程度上补足一些器件性能无法解决的缺陷。本文提出基于HSL 空间彩色电子纸边缘增强的误差扩散算法研究,通过MATLAB 对本文算法进行仿真。结果表明,本文算法对比其他算法在信噪比PSNR 上提高了3.9%~26.7%,饱和度提高了10.1%~48.2%,相似度SSIM 提高了13.2%~25.4%。从电子纸显示角度上,增强了图像的边缘和细节,提高了图像的清晰度和可视性,更好地保留原图的信息和色彩。墨水屏展现了更多的图像细节的部分,这些细节都得到了充分的增强。图像的色彩更加接近原图,饱和度更高。这些都给电子纸的使用者带来了更良好的视觉体验。