残差神经网络模型在木质板材缺陷分类中的应用1)

凌嘉欣 谢永华

(东北林业大学，哈尔滨，150040)

近年来，木材深加工技术实现了快速发展，木材表面缺陷检测水平不断提高，计算机视觉技术和模式识别技术为木材表面缺陷检测提供了新的路径与方法，在实践应用中发挥出良好效用。但木材表面由于具有复杂的纹理，而且缺陷的种类繁多，根据国家标准木材缺陷分为木材构造缺陷、树干形状缺陷、伤疤(损伤)、变色、裂纹、腐朽、虫眼、木材加工缺陷、节子、变形10大类，通过机器视觉系统采集木材的图像，利用传统的图像处理算法检测木材的缺陷，会面对巨大的挑战[1-2]。针对板材缺陷识别问题，有些传统算法[3-7]能有效地进行木材表面缺陷自动识别，但在处理大样本数据时，识别精度并不高。随着卷积神经网络理论的完善，并在语音、图像等方面的模式识别算法取得了一些成功[8-10]，这些比较新颖的算法，虽然准确率达到80%以上，仍不能满足工业产业化在线识别精度需求。因此，提高识别精度仍是业内研究的重点。为此，本研究将超分辨率测试序列(VGG)网络模型、谷歌网络模型(GoogLeNet)、残差神经网络模型(ResNet)应用于木质板材表面缺陷分类检测中，重点研究木材的活节、死节、虫眼3类表面缺陷，并依据分类精度，遴选识别效果更好的板材缺陷分类方法，旨在为拓展诊断木材板材缺陷途径和方法提供参考。

1 材料与方法

1.1 样本数据获取

理论上，在进行样本库的制作时应含有多种树种，每种树种的缺陷图像越多越好，实际上，寻求样本的困难较大，也很难获得每种缺陷的大量样本。在现有的条件范围内，本研究选取了包括国内具有代表性的树种24科36属共50种，其中针叶材16种、阔叶材34种；采集到木材缺陷样本2 630张，裁剪成512×512像素、256级灰度，用数据增强的办法，对2 630张图片进行旋转、平移、尺度变换、灰度变换等方式处理，使样本库扩容到10 687张图片，选择其中的7 480张图片作为训练集、2 137张图片作为验证集、1 070张图片作为测试集。板材缺陷部分样本见图1。

图1 木材板材缺陷样本

1.2 超分辨率测试序列网络模型的木质板材缺陷分类方法

超分辨率测试序列(VGG)网络模型是在亚历克斯网络模型(Alexnet)基础上，去掉局部响应归一化，去掉7×7的卷积核，使用卷积核和池化核的大小均为3×3，减少了参数量，得到了超分辨率测试序列网络模型。其中，超分辨率测试序列网络模型的16层结构常用于分类，16层结构由13层卷积层和3层全连接层组成，是分类性能较为优秀的网络模型[11]。应用超分辨率测试序列-16网络模型对像素为224×224×3的木质板材缺陷图片分类(见图2)。

图2 超分辨率测试序列-16网络模型的木质板材缺陷分类过程

1.3 谷歌网络模型的木质板材缺陷分类方法

谷歌网络模型(GoogLeNet)，网络共有22层，且包含了非常高效的模块，它的目的是设计一种具有优良局部拓扑结构的网络，即对输入图像并行地执行多个卷积运算或池化操作，并将所有输出结果拼接为一个多层网络结构的特征图。谷歌网络模型对木质板材缺陷分类流程见图3。

图3 谷歌网络模型的木质板材缺陷分类过程

1.4 残差神经网络模型的木质板材缺陷分类方法

残差神经网络(ResNet)是2015年He et al.[12]提出的，在普通的卷积模型中，加入串联机制形成残差卷积神经网络模型，模型既有效地降低了网络参数的训练难度，也不会造成精度下降。模型的2层基本块见图4；3层基本块结构是在2层结构基础上，在主支路上再加1层卷积层结构。这些基本块单元串联形成残差模块，多个残差模块构成残差神经网络模型的最小单元[13]。

图4 2层单元基本块

残差神经网络模型，因网络层数不同，单元结构也略有不同，有18层、34层、50层、101层4种模型结构，具体的网络结构配置见表1。

表1 残差神经网络模型的4种模型的网络结构配置

本研究调整了残差网络单元结构，形成了新的残差单元。即：将激活函数(ReLU)看做是权重层的“预激活”，而不是传统的“激活”，使其产生了1个新的残差单元。残差神经网络改进前后的结构流程对比见图5。

图5 改进前后的残差网络结构

2 结果与分析

本研究将采集到的图片进行处理，批量转换为JPG格式，对图片尺寸进行剪裁，通过尺度变换等一系列变换进行数据增强，将数据集从原始的2 630张图片扩大到现在的10 687张，构成图像数据集。数据集通过数据增强后，能够达到试验的网络模型需要的数据量，尽量防止网络的过拟合现象的发生。本研究将超分辨率测试序列-16网络模型、谷歌网络模型、残差神经网络模型3种网络模型应用于木质板材缺陷分类中，网络模型初始参数：网络模型单次处理数据组的数量为16组数据、初始学习率为0.001、权值衰减因子为0.000 5、动量因子为0.9。

(1)超分辨率测试序列-16网络模型损失函数值和识别缺陷的准确率见图6，网络模型在14次迭代时，测试集分类准确率达到最高值83.30%。

图6 超分辨率测试序列-16网络模型损失函数值和准确率曲线

(2)谷歌网络模型损失函数值和识别缺陷的准确率见图7，网络模型在16次迭代时，测试集分类准确率达到最高值89.64%。

图7 谷歌网络模型模型损失函数值和准确率曲线

(3)残差神经网络模型在18、34、50、101层时，测试集分类准确率见图8。18层网络结构模型，在第70次迭代时，达到分类准确率最大值82.11%；34层网络结构模型，在第60次迭代时，达到分类准确率最大值87.75%；50层网络结构模型，在第70次迭代时，达到分类准确率最大值96.68%；101层网络结构模型，在第80次迭代时，达到分类准确率最大值96.81%。

图8 残差神经网络测试集准确率对比

(4)改进的残差神经网络模型，在18、34、50、101层的测试集分类准确率见图9。18层网络结构，在80次迭代时，达到分类准确率最大值84.56%；34层网络结构，在第80次迭代时，达到分类准确率最大值93.38%；50层网络结构模型，在第80次迭代时，达到分类准确率最大值98.63%；101层网络结构模型，在第60次迭代时，达到分类准确率最大值91.42%。

图9 改进的残差神经网络测试集准确率对比

改进的残差神经网络模型，针对虫眼、死节、活节3类木质板材表面缺陷的分类准确率见表2，对比数据在50层结构时分类精度达到最高。

表2 改进的残差神经网络模型对木质板材表面缺陷分类准确率

残差神经网络模型改进前后测试集的分类准确率对比见表3。对比数据，改进后的网络模型分类准确率优于原模型。

表3 残差神经网络模型改进前后对木质板材表面缺陷分类准确率

(5)将本研究选择的4种网络模型对木质板材缺陷测试集中分类准确率进行对比，超分辨率测试序列-16网络模型的准确率为83.30%、谷歌网络模型的准确率为89.64%、50层的残差神经网络模型的准确率为96.68%、50层的改进残差神经网络模型准确率最高为98.63%。

3 结论

木质板材质量受木材自身的缺陷影响很大，为了得到高质量的单板板材，需要对板材表面缺陷进行检测。本研究应用超分辨率测试序列-16网络模型、谷歌网络模型、残差神经网络模型、改进的残差神经网络模型对木质板材样本缺陷图片进行分类检测。结果表明：改进后的残差神经网络模型，与超分辨率测试序列-16网络模型、谷歌网络模型模型相比，在网络结构层次增加时，由于自身增加了直连结构，会在网络反传时降低网络弥散的概率，并且每一层都能更多地保留原始信息，可有效降低欠拟合现象的发生，测试集分类准确率高达98.63%，也更优于未改进前自身模型分类准确率，具有较好的鲁棒性和实用推广性。