阮承治,陈茜,陈旭,赵升云,孙月平,赵德安
(1. 武夷学院农机智能控制与制造技术福建省高校重点实验室,福建武夷山,354300;2. 农业农村部南京农业机械化研究所,南京市,210014; 3. 福建省竹材工程技术研究中心,福建武夷山,354300; 4. 江苏大学电气信息工程学院,江苏镇江,212013)
随着社会和经济的发展,人民的生活水平和物质需求越来越高,国内外市场对于竹制品的消费不断加大[1-2]。据统计,2020年我国竹产业产值已达到3 084亿元,竹制品在人类的生活中不可或缺[3]。竹制品加工过程中,为保证竹条色泽均匀一致性,竹条的拣选大部分仍采用人眼进行颜色等级分类,这种方法劳动强度大、效率低,而且受主观因素的影响,分类精度较低[4-5]。随着电子信息及计算机技术的发展,机器视觉越来越广泛应用到竹加工的自动化与智能化领域,因此研究竹条色差分类图像检测系统具有重要意义[6]。
在国内外相关学者的努力下,机器视觉在农产品加工自动化与智能化中取得一定进展。Bhargava等[7]利用图像抓取及模糊C均值聚类分割识别分类苹果等级及腐烂程度,该方法准确率较高,可识别的苹果种类较多,但算法运行时间较长。Singh等[8]利用傅里叶变换和Legendre矩对竹的品种进行分类,该方法主要针对鲜竹品种分类,对加工过程中的竹条未分类。在国内方面,张昭等[9]通过数据挖掘算法对竹块颜色进行分类,但该算法需要建立模型运行时间较长。徐信罗等[10]根据获取的数码相机高空图像,采用Faster R-CNN目标检测算法对松材线虫病受害木进行识别与定位,该分类识别算法精度还可进一步提升。卢秋芬[11]通过构建竹条缺陷特征向量,并采用BP神经网络判断和识别竹条缺陷,该方法在竹条色差分类检测应用准确率较低。李建辉[12]使用机器视觉技术,设计了一种色差公式的竹条颜色分类方法,但该方法针对样本类别色差较小时,误判率较高。尽管以上研究取得可喜成果,然而针对竹条色差分类检测图像处理算法研究还是较少,且已有的相关研究实时性难以满足系统要求,识别准确率还需进一步提高。
本研究是通过MATLAB图像处理软件进行竹条色差分类检测系统的设计。首先将竹加工过程所需要的标准竹条与样本竹条读入系统中,再将其进行HSV颜色空间转换,然后进行图像降噪预处理,并提取出样本竹条不同颜色分量。同时,将HSV各颜色分量进行非等间距量化,计算出相应的特征矢量T降低维度,以得到竹条在HSV颜色空间中各分量的颜色相交直方图,根据直方图结果计算出对应的相似度值,并判断两张竹条图像是否存在色差。最后根据相似度值,可将所有样本竹条进行色差等级分类,最终可得到适用的色泽均匀的样本竹条。
为选取合适竹条进行加工生产,本研究中的图像处理系统首先将采集到的样本竹条与标准竹条彩色图像进行由RGB颜色空间到HSV颜色空间的转换,再经过图像的降噪预处理。其次,针对预处理后的样本竹条与标准竹条,提取相应的H、S、V不同颜色分量,并进行非等间隔量化处理,求得样本竹条与标准竹条各特征矢量T,并依据特征矢量T计算出相应的颜色直方图。最后通过直方图相交法计算出两者之间的相似度值,根据相似度值判断样本竹条与标准竹条之间的色差大小,依据相似度值进行竹条色差等级分类,并最终选取出可进行加工生产的无色差竹条。总体方案工作流程如图1所示。
图1 总体工作流程Fig. 1 Overall working flow chart
图2为竹条色差分类检测系统,该装置主要由机械支撑底座、传动机构、被测竹条样本、图像采集装置和工控机等构成。为消除漫反射光影响,暗箱内部和传送机构均采用白板背景,被检竹条通过传送带传输至相机正下方图像采集工位。图像采集系统采用的彩色工业相机KBE-RT6200E/S,焦距3.9~85.8 mm,通光孔径型号为F1.6-C,像面尺寸1/3,最近物距0.15 m,该相机通过USB 3.0接口与工控机进行数据传输。
图2 竹条色差分类检测系统Fig. 2 Bamboo color difference classification detection system1.机械支撑 2.被检竹条 3.定位传感器 4.工控机 5.镜头 6.暗箱 7.人工光源 8.传动机构
处理与分析图像的计算机处理器为Intel(R) Core(TM) i5-6500 CPU 3.20 GHz,RAM 8 GB,计算机操作系统为Microsoft Windows 7 旗舰版,计算机显卡Intel(R) HD Graphics 530,采用的图像处理软件是Matlab R2014b。
通过该系统采集的图像,选取其中11幅竹条原始彩色图像进行试验。图3中从左至右依次为标准竹条图像、编号1~10的样本竹条。从左到右依次按照颜色由深到浅,与标准竹条色差由大到小进行排列。
图3 标准竹条与样本竹条Fig. 3 Standard and sample bamboo strips
在后续的试验中是通过颜色空间直方图相交法分别进行1~10号样本竹条图像与标准竹条图像之间的相似度计算,并进行分类检测。为客观反映竹条色差真实情况以及建立相似度数值与色差等级之间关系,试验中将10张样本竹条图像与标准竹条图像的相似度值进行计算比较,从而判断出相应的色差等级,实现竹条色差分类等级检测。
在采集竹条图像的过程中常常会有夹杂着一些噪声,这些噪声往往对后续的图像处理有着一定的影响。针对竹条图像中的干扰信息以及无效信息,本研究中通过图像降噪预处理的方法,最大程度还原信息有效区域,从而提高竹条图像信息利用率,便于后续处理。
转换的HSV颜色空间竹条图像采用中值滤波降噪,结果显示降噪后图像细节部分有较好的处理效果,并保留了图像边缘细节信息以及较为丰富的纹理。因此,本研究中采用中值滤波对竹条图像进行降噪预处理。以10号样本竹条为例,可得到HSV分量图像中值滤波结果如图4所示。
图4 HSV分量图像中值滤波结果Fig. 4 Median filtering result of HSV component image
1.4.1 竹条颜色空间转换
针对存在色差的竹条图像的颜色空间选择,RGB颜色空间存在均匀性、稳定性差的问题,与人工分类检测的结论存在较大误差,因此要将RGB颜色空间转换成更适用于竹条图像色差分类检测的HSV颜色空间[13-15]。
首先对RGB颜色空间进行归一化处理,再在HSV颜色空间中找到与之相对应的H、S、V三个分量的点坐标[16-17]。其转换公式如式(1)~式(5)所示。
m=max(R,G,B)
(1)
n=min(R,G,B)
(2)
V=m
(3)
(4)
(5)
式中:R、G、B——颜色空间归一化处理结果,取值范围为[0,1];
m——R,G和B分量中的最大值;
n——R,G和B分量中的最小值;
V——亮度,其取值范围均为[0,1];
S——饱和度,其取值范围均为[0,1];
H——角度的色相角,H∈[0,360)。
1.4.2 颜色直方图
对竹条图像进行相似度判断是将标准竹条与样本竹条的颜色直方图公共区域进行对比。设一幅图像包含M个像素,图像的颜色空间被量化成为N个不同颜色。
pi=hi
(6)
式中:hi——第i种颜色在整幅图像中具有的像素数;
pi——H颜色直方图。
颜色直方图归一化如式(7)所示。
(7)
式中:pi′——归一化后H颜色直方图。
则直方图分量相交的距离如式(8)所示。
(8)
式中:M(i)、N(i)——两个含有k个BIN的直方图的分量,其中i=1,2,3,…,k;
D(M,N)——直方图分量相交的距离。
直方图相交是指两个直方图在每个BIN中共同含有的像素个数,通过将所求像素个数与其中一个直方图所包含的所有像素个数进行求比来实现标准化,得以控制其值在[0,1]范围内[18],如式(9)所示。
(9)
式中:D′(M,N)——归一化处理后的结果,其取值范围为[0,1]。
1.4.3 直方图相交法
将两个图像经过RGB颜色空间转换为HSV颜色空间后,直方图矢量的维数较多,将采取量化的方式处理所采集到的图片[9,19]。
将颜色空间中的H、S、V三个分量进行非等间距量化,分别以8、3和3为间距,进而再依据人眼对颜色的主观认知以及所处不同区间的颜色量化H、S、V三个分量。具体量化公式如式(10)~式(12)所示。
(10)
(11)
(12)
通过合成各颜色分量构造一维特征矢量T,降低三个分量的维数,如式(13)所示,T的取值范围为[0, 255]。
T=HQSQV+SQV+V
(13)
式中:QS——分量S的量化级数;
QV——分量V的量化级数。
假设标准竹条为E,根据式(14)可得新的一维颜色直方图HE。
HE=size[find(T=i),1]
(14)
对T进行归一化处理后可将HE中的各个元素Ei的取值范围转变为[0, 1]之间。
假设F为样本竹条,通过同样的方法得到F的颜色直方图HF,可求得两幅竹条图像的相似值,最后进行相应的相似度判断。该过程计算如式(15)所示。
(15)
式中:Sim(E,F)——标准竹条E和样本竹条F的相似程度。
夹角余弦相似法是将两幅图像转化成两个向量的形式,然后再计算两个向量的余弦值来判断两幅图像是否相似的一种颜色分类检测方法[20-22]。本研究中运用该方法作为对比试验,其具体的检测步骤如下。
首先系统读入两张采集的图像A、B,通过一系列的降噪预处理以及图像分割处理后,将处理后的图像A、B分别转换为灰度图像直方图。
然后再分别将图像A、B的灰度直方图划分为64个区,这时的每个区域代表的是4个连续的灰度等级。
接着对每个区的4个值进行求和运算,这时会得到一个数据,如此进行64次就会分别得到64个数据,此时图像A的64个数据构成该图像的一个向量pi。
同样的,图像B的64个数据也构成向量qi,即求两幅图像A、B的相似度转换为求两个向量pi和qi之间的余弦值大小来判定图像之间的相似度大小。
因此,可用两个向量的夹角余弦值来计算图像相似度。通过以上分析可知,夹角余弦相似法中夹角越小,则相似度值越大,则表示两个向量越相似,图像所对应的颜色色差越小。
本研究中分别采用颜色空间的直方图相交法和夹角余弦相似法两种方法进行竹条分类检测对比试验。因文章篇幅有限,试验选取6号样本竹条与10号样本竹条为例,求得它们的H、S、V各分量相交直方图,如图5所示。
由第一种方法所得10个样本竹条的相似度值如表1所示,由第二种方法所得10个样本竹条的夹角余弦值以及余弦角如表2所示。
表1 样本竹条相似度数值Tab. 1 Similarity values of sample bamboo strips
图5 标准竹条与样本竹条各颜色分量的相交直方图
Fig. 5 Intersecting histogram of each color component of standard and sample bamboo strips
表2 样本竹条与标准竹条之间余弦值Tab. 2 Cosine value between sample and standard bamboo
在HSV颜色空间中,由图5可以直观得到10号样本图像与标准图像的H、S、V三个分量相交直方图中所包含的公共像素点明显多于6号样本图像与标准图像的H、S、V三个分量相交直方图中所包含的公共像素点,因此可以得到10号样本图像与标准图像之间的色差小于6号样本图像与标准图像之间的色差。
通过HSV颜色空间的直方图相交法,可计算出各样本竹条与标准竹条之间的相似度,如表1所示。根据表1可以明显得到,1号样本竹条与标准竹条之间的相似度最小,10号样本竹条与标准竹条之间的相似度最大。由此可以得到:在其他条件相同的情况下,样本竹条与标准竹条之间相似度越大,则样本竹条与标准竹条之间色差越小。
通过夹角余弦相似法可计算出各样本图像与标准图像之间的夹角余弦值,并将余弦值转换为余弦角,结果如表2所示。根据表2可以得到,1号样本竹条与标准竹条之间的夹角余弦值最小,所转换得到的余弦角最大;反之,10号样本竹条与标准竹条之间的夹角余弦值最大,所转换得到的余弦角最小。由此可以得到:在其他条件相同的情况下,样本竹条与标准竹条之间夹角余弦值越大或余弦角越小,则样本竹条与标准竹条越相似,色差越小。
但是由于竹条图像灰度夹角余弦相似法是对两个向量的长度做归一化处理,该方法只考虑向量方向是否一致而不考虑向量的大小,若两个向量方向一致,则将样本竹条认为是与标准竹条相似的,由此可知余弦相似度对特定值的绝对值大小不敏感[22]。同样的,根据表2所得的样本竹条7号与8号,夹角余弦测量结果具有一定的误差,因此,在该研究中选用运行速度更快、操作更方便、得到的结果较直观准确的HSV颜色空间的直方图相交法进行竹条色差分类检测。
同时,通过多次试验颜色空间的直方图相交法以及人工经验的观察,可以得到当相似度为0.93以上或余弦角小于22°,肉眼无法察觉出其存在色差,所以当两个竹条之间的相似度为0.93以上或余弦角小于22°时,可以称其样本竹条与标准竹条不存在色差。同样的,当相似度值在0.93以下或余弦角大于22°的部分存在人眼可接受色差,由工厂工人挑选出的两个竹条相似度为0.88以上或余弦角小于32°的竹条可归于可接受范围内色差。故基于试验分类检测结果将相似度值与余弦角进行色差等级分类,结果如表3所示。
将竹条相似度与色差建立起相应的关系,等级越低,相似度越低则色差越大[12]。对于一级色差,则代表样本竹条与标准竹条之间不存在色差;对于二级竹条而言,则代表样本竹条与标准竹条之间存在微小色差,属于可接受色差范围之内;对于三级竹条而言,则代表样本竹条与标准竹条之间存在较大的色差。
表3 相似度值量化色差等级Tab. 3 Similarity value quantization chromatic aberration grade
从人工经验分类所得的3个不同等级的180个样本竹条中随机选取出90个样本竹条进行测试,每个等级选取30个样本竹条。通过比较两种方法的运行速度,并将计算机分级和人工分级的比值作为识别正确率,试验结果如表4所示。
表4 分类检测结果对比Tab. 4 Comparison of classification detection results
通过表4可以得到,对人工识别分类所得的一级、二级、三级竹条进行直方图相交法分类检测可以得到其识别正确率分别为86.67%、93.33%、96.67%,其平均识别正确率为92.22%,平均运行时间为536 ms。而通过夹角余弦相似法得到的识别正确率分别为80.00%、90.00%、93.33%,其平均识别正确率为87.78%,平均运行时间为1 466 ms。相比夹角余弦相识法,平均识别正确率提高了4.44%,而平均运行时间下降了63.44%。通过表4所得数据,可以明显得到颜色空间直方图相交法更适用于竹条色差分类的研究,运行速度更快,并且识别正确率较高。
竹加工过程中,采用人工对竹条进行色差分类的方式工作强度大,而且工作效率和精度难以保障。因此,本研究提出一种HSV颜色空间直方图的竹条色差分类检测系统。该系统将带有色差的竹条作为研究对象,通过采集颜色由深到浅的竹条进行色差分类检测,在同一光源下通过工业相机采集大小相同,位置相同的竹条,然后进行HSV颜色空间转换,再通过中值滤波对竹条图像进行预处理并提取不同颜色分量;再在HSV颜色空间中提取竹条图像相关色彩特征数据,并得到HSV颜色空间中竹条各分量的颜色相交直方图,同时计算出相应的相似度值;通过比较其相似度值的大小,对竹条进行色差分类并使其与色差等级建立一定的关系;最后,根据对处理后的竹条图像进行色差分类检测试验。
试验结果表明,对一级、二级和三级竹条进行色差分类检测,采用本文方法识别正确率分别为86.67%、93.33%、96.67%,平均识别正确率为92.22%,平均运行时间为536 ms。相比较夹角余弦相似法,平均识别正确率提高了4.44%,而平均运行时间下降了63.44%。从试验结果看,本文方法相比较传统夹角余弦相似法,在识别正确率及运行时间上均有一定的优势,可为竹制品加工的自动化与智能化提供理论基础与技术支持。