马传旭,张 宁,潘如如
(生态纺织教育部重点实验室(江南大学),江苏 无锡 214122)
纱线进入后道工序前,会在络筒工序被加工成容量较大的筒子[1]。目前,纺纱行业中“小批量、多品种”已逐渐成为企业生产的主流形式,同一台络筒机可以生产不同品种的筒子纱。对于纱线颜色相同的筒子纱而言,仅从外观难以区分品种,这可能导致产品在后续的运输和打包时出现错误,因此需要在筒子纱由络筒车间运输到包装车间过程中逐个进行品种检测,确保将同类筒子纱打包在一起。传统筒子纱品种检测依靠人工根据纱线颜色、纱管图案或标签内容检测,但这种模式耗时费力,人工成本高,且容易出错。根据筒子纱品种与纱管的对应关系,对纱管进行图像处理与识别可以替代人工进行品种检测。
目前利用图像处理技术检测筒子纱纱管品种的研究较少,识别筒子纱品种主要依据纱线颜色。例如:任慧娟等[2]根据不同颜色纱线在HSV颜色空间中色调不同进行筒子纱种类识别;陈纪旸[3]提出设定筒子纱纱线颜色的RGB阈值进行筒子纱分类;倪弈棋等[4]采用双目视觉并通过改进的深度卷积神经网络(SSD)实现了多种颜色筒子纱的识别定位。但这些方法仅考虑了纱线本身的颜色,对于纱线颜色相同的筒子纱分类有效性仍缺乏实验的支撑。基于特征工程的图像分类方法基本框架为图像预处理、特征提取、构造分类器、预测分类。应龙等[5]通过均值漂移算法实现图像不规则分割,并提取动态局部颜色直方图特征进行图像检索;Yue等[6]使用颜色直方图和灰度共生矩阵(GLCM)构成颜色和纹理融合特征进行图像检索;Timo等[7]提出局部二值模式(LBP)来描述图像的局部纹理特征;Robert等[8]提出灰度共生矩阵的纹理特征提取方法,定义了14种描述纹理的特征统计量;Fawwaz等[9]发现,GLCM的特征统计量中,对比度、逆差矩、相关性和能量是不相关的,选择了对比度和逆差矩特征用于图像分类并获得了较高的准确率。常用的分类器有K最近邻(KNN)、决策树(DT)、支持向量机(SVM)等。罗来平等[10]改进分类决策树算法实现遥感图像分类。万华林[11]集成图像的纹理、边缘和颜色直方图特征,构造SVM实现图像的语义分类。针对不同的问题,人工设计的特征提取方法的有效性和分类器的分类效果有待验证。
本文提出基于特征融合的筒子纱纱管品种检测方法,分别采用颜色直方图和局部二值模式提取纱管图像的颜色和纹理特征,并构造支持向量机实现纱管分类,通过分类模型进行纱管的品种检测。
筒子纱图像采集装置如图1所示,包括CCD彩色面阵相机、LED光源、光源控制器、光电传感器、遮光罩、工业计算机。
相机分辨率为1 280像素×1 024像素,安装在筒子纱运输导轨拐角处,拍摄筒子纱顶部包含纸管信息的图像并上传至计算机;LED光源安装在相机顶部,额定最大功率为40 W;光源控制器控制LED光源频闪,为相机提供瞬时高亮度照明;传感器用于感应筒子纱是否达到识别位置,输出启动图像采集信号;遮光罩隔绝外部环境光照影响,内部表面粘贴黑色绒布,消除内壁反光;工业计算机含有的中央控制单元控制相机、光源控制器、光电传感器之间的配合,对采集的图像进行处理和识别。
采集的筒子纱图像如图2(a)所示。其中,纱管色环是需要提取的目标区域,首先将图像灰度化,通过最大类间方差法进行二值化,将纱线和纱管所在区域分隔开。通过图像轮廓将边缘连接形成一个整体,对于二值图像中存在的多个轮廓区域,计算圆整度R和设定面积阈值TS从而筛选出纱管轮廓,并通过椭圆拟合纱管区域,如图2(b)所示。
图2 预处理各阶段图像
(1)
式中:S为轮廓面积;C为轮廓周长。
为方便纱管特征提取,本文将环形纱管通过极坐标变换展开成矩形。极坐标变换是在原图像中,以点(cx,cy)为原点,R为半径的圆内部的点,变换到以(cx,cy)为极点的极坐标下。为便于展示,将经极坐标变换的纱管图像进行图像加权和提高亮度,如图2(c)所示。极坐标变换公式为:
(2)
(3)
(4)
式中:(x,y)表示圆内任意一点;ρ表示点(x,y)距圆心(cx,cy)的径向距离;θ表示角度。
对图像应用极坐标变换可将笛卡尔坐标系中的径向线映射到极坐标空间中的水平线。采集的筒子纱顶部图像纸管为一同心圆,以圆心作为极坐标系统的中心,做1条与水平线成θ角的射线,与圆环内、外边界相交于2点,圆环内射线上任意一点(x,y)都可以用2个交点的线性组合表示:
(5)
式中:(xo,yo)、(xi,yi)分别为射线与圆环的内、外边界交点。
纱管品种与筒子纱品种具有对应关系,为匹配筒子纱多样化的品种,纱管的品种由多种颜色和花纹的组合进行丰富。颜色对于纯色或相同循环花纹单元的纱管品种而言是最直观的区分属性,而不同循环花纹单元的纱管品种可以由纹理视觉属性进行描述,如:点状的、星型的、条纹的。因此,本文研究采用颜色特征和纹理特征共同描述一幅筒子纱纱管图像,纱管品种的差异由这2种特征的不同来体现。
颜色特征依赖于所选择的颜色空间,HSV颜色空间能够直观表达色彩的明暗、色调以及鲜艳程度,更符合人的视觉感知特点,在图像处理领域应用广泛。纱管图案通常由红、橙、蓝、绿等常见颜色中的1种或2种绘制,且纱管上的图案位置并不固定,存在边缘处有不完整图案的现象;颜色直方图描述了不同色彩在整幅图像中所占的比例,而不关注每种色彩所处的空间位置,因此可作为纱管图像的颜色特征。合适的颜色量化方案既可降低计算复杂度,又不会丢失过多的颜色信息,基于对纱管颜色的分析,过于精细的颜色量化方法不一定能提高对不同颜色组合的纱管品种的区分能力,反而会增加计算的复杂度,因此在本文研究中,根据纱管常用色的色调范围将H非均匀量化为8个部分,并将S和V划分为黑色区域、白色区域和彩色区域,即以H:S:V=8:3:3进行量化。
(6)
(7)
(8)
将3个颜色分量量化结果组合得到一个一维特征向量:
F=QS×QV×H+QV×S+V=9H+3S+V
(9)
式中:QS、QV分别为S、V分量的量化级数,QS=3,QV=3。H、S、V最大分别可取7、2、2;F的取值区间为[0, 71],颜色量化后直方图的维度为72维。
纱管花纹具有多样性,纱管整体图案由同一种形状的花纹循环排列而成,花纹存在位置偏移、印刷显示不全的问题,LBP算子能表征位于图像局部区域的纹理,可作为纱管图像的纹理特征。LBP根据图像不同区域的中心像素值对其邻域像素进行二值编码,邻域像素值大于中心像素值标记为1,否则为0,将结果保存为LBP编码,用该值反映区域的纹理信息。LBP计算方法为
(10)
(11)
式中:P为半径为R时邻域像素点的个数;gc、gp分别为中心点和邻域点灰度值。
用圆形邻域代替正方形邻域,可以将固定大小的邻域扩展到任意半径R,包含任意多个采样点P的圆形LBP。旋转圆形邻域内的LBP特征,选择一系列LBP值中的最小值作为该邻域的LBP值,得到旋转不变的LBP特征。LBP循环二进制数在0、1之间最多有2次跳变时称为一个等价模式,通过等价模式对LBP算子进行降维,利用统计直方图表征图像的纹理信息。本文选择常用的3种不同采样点P和采样半径R的LBP算子,如图3所示,并通过实验优选确定最佳算子。
图3 不同尺度LBP算子
本文研究面向纺纱企业品种检测的实际应用,需要根据纱管的颜色和图案准确而稳定地检测不同品种。支持向量机(SVM)虽然是针对二分类问题提出的,但通过构造多个分类器,同样可应用于纱管品种的多分类问题。其基本思想是利用结构最小化原理在属性空间中建立最优超平面,将数据集正确地分类,并且得到最大的分类间距。SVM的线性可分最优分类超平面如图4所示。2类样本分别用圆形和三角形表示。H是分隔超平面;H1和H2为间隔边界,其上的点分别为2类样本中距离H最近的点。H1和H2上的点称为支持向量,H1与H2到H的距离相等,2个平面之间的距离称为分类间隔。
注:w为平面上的法向量,决定超平面的方向;b为实数,代表超平面到原点的距离。
为找到一种有效的纱管品种分类器,SVM核函数的选择是一个关键问题。通过特征转换函数将样本从低维空间映射到高维空间,在高维空间中容易找出分隔超平面实现样本分类。SVM核函数包括线性核函数、多项式核函数、高斯核函数(RBF)。RBF可以把输入特征映射到无限多维,因此本文选择使用RBF的SVM算法。高斯核函数为
(12)
式中:x、xi表示2个向量;1/2σ2表示RBF超参数;‖x-xi‖表示向量的模。
不同的核函数需要不同的参数,针对高斯核函数,除要设置惩罚系数C外,还需要指定γ值,即高斯核函数公式中的1/2σ2。对于预设的C和γ组合,通过网格搜索使用每组(C,γ)参数训练模型,每组超参数都采用K折交叉验证进行评估。最后选出最优参数组合建立SVM分类模型。K折交叉验证将训练集随机分为K组,每次挑选1组作为验证集,剩余K-1组作为训练集用来训练模型,如此循环K次,将K组测试结果取平均值作为模型的指标,其原理如图5所示。
注:Ei表示第i次交叉验证的测试结果,i=1,2,…,K。
本文实验在Windows 10系统、Intel(R)Core(TM)i7-7500U CPU和8 G RAM计算机上进行,使用Python语言编程。实验过程如下:1)筒子纱图像经预处理得到纱管色环的矩形展开图;2)将图像由RGB颜色空间转换到HSV颜色空间,获取颜色特征,计算纹理特征,融合2种特征;3)使用网格搜索和5折交叉验证确定最优参数,构造SVM分类器。基于构造的纱管分类模型,纱管品种检测流程如图6所示。
图6 筒子纱纱管品种检测流程图
本文所有图像采集于一家纺纱企业的筒子纱运输导轨装置,选择2组类型筒子纱图像实验。A组:半黑、M黑、梅黑、点黑、星黑;B组:星黑、星绿、星橘、星红。共涉及8类样本。
为便于展示,对纱管展开图进行加权和提高亮度,如图7所示。各类样本图像均为100张,按照7:3的比例构造训练集和测试集。
图7 实验用纱管图像矩形展开图
本文实验采用“一对一”的方法实现纱管品种多分类,基于LIBSVM完成。为提高模型的分类性能,对模型参数进行优选,主要包括颜色直方图量化方式和LBP算子优选,SVM的惩罚系数C和核半径γ,并得到最优参数下模型的分类准确率。
通过对颜色组成不同的B组纱管图像进行分类检测,对比H:S:V=8:3:3、H:S:V=16:4:4、H:S:V=32:8:8这3种不同的非均匀量化方式,根据分类准确率和特征提取用时选择最优量化方式,结果如表1所示。当纱管的颜色组成发生变化时,3种量化方式获得的颜色特征都准确检测出品种的变化,由于纱管颜色差异大且无需根据深浅进行颜色细分,图像采集光照条件相同,H:S:V=8:3:3量化方式足够区分纱管用色,更精细的划分方式并不会影响准确率,相反维度增加会造成计算耗时,因此选择H:S:V=8:3:3作为纱管图像颜色的量化方式适用于颜色组成具有差异的纱管品种检测。
表1 颜色量化方式优选
采样点个数影响运算时间,采样点半径影响特征的精细程度,对不同循环花纹单元的A组样本使用LBP8,1、LBP16,2、LBP24,3进行分类实验,根据准确率和特征提取用时筛选最优算子,结果如表2所示。3种算子的分类准确率分别为56.67%、96.67%、94.00%。与LBP8,1相比,使用后2种算子分类准确率明显提升,当LBP采样半径为2时可精细表征纱管图像的纹理特征,采样半径更大的LBP24,3误将图像中的噪声判定为图像的纹理信息,准确率反而降低,同时采样点数增加,特征提取耗时增加,因此选择性能更好的LBP16,2可用于不同循环花纹单元的纱管品种检测。
表2 局部二值模式算子优选
惩罚系数C大,对误分类的惩罚增大,模型在训练集测试时准确率高,但泛化能力弱,对测试样本预测准确率低;惩罚系数C小,对误分类的惩罚变小,允许容错,泛化能力较强。核半径γ越小,模型复杂度越低,容易出现欠拟合;反之模型复杂度高,容易过拟合。本文研究预设惩罚系数C范围为0.01~10,核半径γ范围为0.01~30,并通过构造等差数列的方式为每个参数设定30个不同的取值,对所有的(C,γ)组合,使用5折交叉验证获得不同分类模型的最佳参数。
使用本文提出的纱管图像融合特征表征,基于上述优选的分类器参数寻优方法对黑色系花纹纱管、星型纱管和混合纱管进行品种分类,其结果如表3所示。在惩罚系数C选择2.069,核半径γ选择3.104时,模型对8类纱管的分类准确率达到100%。通过相同的参数寻优方法得到黑色系花纹纱管分类最优参数(C,γ)为(2.069,2.069),星型纱管的分类最优参数(C,γ)为(0.346,1.035)。
表3 支持向量机参数优选及纱管分类结果
LBP算子可获得半圆、M型、梅花、点状、星型纱管的图案纹理,对不同图案的黑色系纱管图像有良好的区分能力。星型纱管不同配色绿、橘、红等有各自对应的色调值H范围,而黑色有较小的亮度值V,因此HSV颜色直方图能很好地区分不同印刷用色的纱管图像。纱管图像存在印刷不规整的现象,当梅花图案印刷不规整时会在纱管上产生与点状相似纹理,M型和星型图案印刷位置偏向纱管下方时也会出现相似的纹理,这些情况下仅使用LBP算子会造成错分,由于图案在印刷时循环间隔不同,印刷色在纱管上的分布不同,使用颜色直方图可以辅助纹理特征加以区分。同时由于颜色直方图特征不关注颜色所处的空间位置,即使是不同的图像也可能获得相同的直方图特征,因此需要纹理信息辅助不同色系图像的分类识别。实验结果表明,融合特征对混合的黑色系纱管和星型纱管有较高的分类准确率。
为衡量本文所提方法对纱管品种的分类效果,将本文所述特征提取方法和分类算法与其它特征组合和分类算法进行对比。对比的特征为颜色矩和GLCM,通过SVM进行分类。颜色矩使用HSV颜色空间下的一阶矩、二阶矩和三阶矩[12],GLCM选择对比度、熵、相关性、能量[13]用以表征纹理信息。对比的分类方法为KNN和DT,使用本文所述特征组合进行分类。预设KNN近邻数n为1~10,DT树深d为1~100,使用5折交叉验证进行参数寻优。实验样本为所有8类图像,分类结果分别如表4、5所示。
表4 不同特征组合纱管分类结果
表5 不同分类器对纱管分类结果
分析表4、5的对比实验结果可知,本文提出的特征提取方法结合SVM分类效果优于其它特征组合和分类方法。颜色直方图较颜色矩更能直观体现纱管图像的颜色构成,LBP较GLCM更适合表征纱管图像纹理。由于颜色直方图和LBP16,2特征维度不同,决策树信息增益的结果偏向于颜色特征,且决策树分叉时特征的随机性很大,导致分类准确率低;KNN分类准确率略低于SVM,对测试数据进行预测时计算量较大。
本文针对筒子纱运输过程的纱管品种检测进行研究,依据纱管的图案印刷特点,运用颜色直方图和LBP特征相融合的方法,并结合支持向量机构造纱管分类模型,用于纱管品种检测。结果表明,本文方法对相同图案的星型纱管、黑色系花纹纱管和混合纱管的分类准确率达100%,与其它方法相比有更高的准确率,对于运输导轨上筒子纱纱管的品种检测具有实用价值。但由于工业场景更为复杂,本文方法及模型在实际应用中可能存在检测错误,仍需进一步验证。未来还需进一步研究适合工业应用的纱管品种检测方法,并尝试对多目标筒子纱纱管进行品种检测。