何小华
摘要:针对传统裂缝识别方法准确率低的问题,研究基于深度神经网络,设计一个Crack-CNN裂缝识别模型。根据CNN神经网络结构,利用CNN的特征提取和学习能力特性,将CNN应用于材料粘接裂缝识别中,然后将裂缝定位和 CNN网络相结合,构建 Crack-CNN模型,将裂缝图像输入至该模型中,通过 CNN网络提取裂缝特征,并进行卷积、池化操作,再利用激活函数和全连接层进行特征分类,最终输出裂缝分类结果。结果表明,相较于传统裂缝识别模型,模型的训练和测试精度均保持在95%以上,模型的训练时间为3825 s,远远低于VGG-13和ResNet模型。由此证明该模型性能好,可在材料粘接裂缝中取得较好的识别效果。
关键词:材料粘结;裂缝识别;深度学习;神经网络;Crack-CNN
中图分类号:TG492 文献标志码:A 文章编号:1001-5922(2023)03-0021-04
Identification of material bond cracks basedon deep neural networks
HE Xiaohua
(Yantai Automobile Engineering Professional College,Yantai 265500,Shandong China)
Abstract: For the low accuracy of the traditional crack recognition method,we design a Crack-CNN crack recogni- tion model based on the deep neural network. According to the CNN neural network structure,by means of the fea- ture extraction and learning ability of CNN,CNN was applied to the identification of adhesive crack.Aftercombin- ing the crack location with CNN network to construct the CRACK-CNN model,the crack image was input into the model,the crack feature was extracted by CNN network,and convolution and pooling were performed. Then,the ac- tivation function and full-connection layer were used to classify the features,and finally the results of fracture clas- sification were output. The experimental results show that compared with the traditional crack recognition model, the training and test accuracy of this model remains more than 95%,and the training time of the model is 3825s,far lower than the VGG-13 and ResNet models,which thus proves that the model has superior performance and achieves good recognition effect in material bond cracks.
Keywords: material bonding;crack recognition;deep learning;neural network;Crack-CNN
在建筑施工過程中,工程材料出现收缩、膨胀和裂缝等现象是较为常见的问题,其主要是由于温度、湿度和地基等外部条件的变化和不稳定造成的。材料粘接部分出现极小的裂缝对建筑物和公路等正常运行影响较小;但当裂缝逐渐增大,并超出标准范围时,可能出现路面坍塌等现象,由此造成安全事故。因此,及时发现材料粘接裂缝,对材料进行检查和维护,可以有效保障建筑物和人们的生命和财产安全。同时,对裂缝进行准确的识别和分类也是保证材料安全的重点。然而,当前现有的材料粘接裂缝识别方法存在识别准确率低和误差大的问题,不能很好的对裂缝进行精准识别。针对此问题,已有学者和专家进行了深入研究,针对桥梁裂缝,提出了基于深度学习的裂缝识别方法,采用神经网络学习对裂缝进行定位和分类,并根据相应的裂缝等级进行划分,可准确的识别出裂缝类型,该方法具有一定的可行性[1];提出采用CNN算法对桥梁裂缝特征进行提取,构建裂缝识别模型。结果表明,该模型很大程度上提升裂缝识别准确率和效率,并通过目标检测方法实现裂缝精准定位[2];在卷积神经网络的基础上,对该网络进行改进,并提出基于改进CNN的混凝土桥梁裂缝检测算法,通过实验发现,相较于改进前的算法,改进后算法的识别率高达85.6%,提升了13.2%[3]。结合以上学者研究,提出将CNN神经网络应用于材料裂缝识别中,并构建Crack-CNN模型,探究该模型在材料粘接裂缝识别的效果。
1 卷积神经网络原理
随着图像分类和故障识别等技术的应用需求,深度学习逐渐取得了较好的应用成果。图像定位和识别主要通过深度学习中的神经网络进行学习和提取实现。目前,常用的神经网络为卷积神经网络 CNN、长短期记忆神经网络LSTM等。其中,CNN由于其独特的结构特点,可实现深层特征提取,在图像识别、定位等方面的效果最好。CNN网络结构如图1所示,其主要分为卷积层、池化层,其中还包括激活层和全连接层[4]。
从图1可以看出,该网络各层级间由神经元进行连接,在输入层中输入图像后,卷积层负责对图像进行卷积处理;之后将处理后的图像传输至池化层中进行池化操作,操作完成后,通过激活层进行映射处理并提取出图像特征,将该特征输出至全连接层,对上层提取特征进行分类识别处理后,利用输出层将识别结果进行输出[5]。
卷积运算是在网络中起着至关重要的作用,其主要通过各个函数的算子进行翻转、平移等操作。卷积层中存在多个卷积核,其利用卷积运算的方式对输入图像进行特征提取,将提取的特征进行整合处理后,即可得到某一部分的特征。卷积层的表达式为:
式中:f 表示输入图像;g 表示卷积核;m 、n 均表示卷积核尺寸。
在CNN神经网络中,激活层的主要作用是对输入图像和最终输出进行映射,其输入和输出大小稳定不变且相同[6]。常用激活函数 Sigmoid、Tanh-Sig- moid和ReLU函数。3种函数的表达式:
3个激活函数中,Sigmoid和Tanh-Sigmoid函数在进行求解时可能出现梯度消失和弥散的问题,会降低模型的训练速度;而ReLU函数由于其内部饱和性较强,可有效解决以上2个激活函数出现的问题,并且该函数能够在一定程度上加快训练,缩短时间,更适用于神经网络中[7]。
为避免网络出现过度拟合现象。采用池化层对传输的信息进行池化处理,之后再将利用全连接层进行特征分类,并采用计算出每个神经元间的误差值如下:
式中:yeRmx 1和 x eRnx 1分别为神经元输出和输入;We Rnxm为此神经元权值;b 和分别代表最后一层的偏置参数和神经元[8]。
对CNN进行学习和训练时,其通过前向和反向2种传播方式进行。前向传播负责正常输入和输出处理;反向传播则根据实际标准值,调节出现的误差值,将误差值控制在最低范围内,直至达到标准。前
式中:‘为信息传输的当前层;x‘为此层的输出值; w‘为此层权值;b‘为此层偏置;f 表示激活函数。
反向傳播中,其通过各层神经元不断地更新迭代后,求出每个层级的梯度值,从而计算出输出值与实际值间的误差。若损失函数表示为:
式中:n 表示输入数据;c 表示输出类别个数;t 表示获取的正确输出值;y 表示计算得到的值[9]。通过对权重矩阵进行不断地修正和调节后,将误差控制到最小。若计算出的结果不满足实际结果,则需反向进行计算,直至最终计算结果与实际结果误差达到最小[10]。
2 基于Crack-CNN的深度神经网络裂缝识别模型
为更好地对材料粘接裂缝进行识别,将设计1个 Crack-CNN的神经网络裂缝识别模型,将裂缝图像输入至CNN神经网络中,以提升裂缝识别效果。该模型架构如图2所示。
以上模型中,输入数据共有32个,每个数据的步长为1,原始输入图像分辨率和维度大小分别为150 mm×150 mm×3 mm和3 mm×3 mm×3 mm[11],通过卷积、池化操作后将提取信息尺寸缩减到1 mm×1 mm×512 mm大小,之后再将该特征传输至激活层中,通过激活函数对处理的信息进行裂缝检测和定位,最终完成模型裂缝识别[12]。
为提升最终识别效果,避免模型训练时出现过度拟合的现象,将在模型中加入1个层级,即Dropout 层。该层参数值为0.5[13]。同时,由于CNN神经网络的深度不同,模型训练时,输入参数会由于深度的增加导致出现偏差等现场。因此,为避免出现这种状况,将通BN批规范化的方式将输入参数进行控制,将其均值设置在0,方差设置在1的规范值内,从而扩大梯度范围,有效防止梯度消失[14]。
在模型最终输出中,通过激活层中的激活函数对输入特征进行分类处理,结合CNN神经网络的特点,选用Sigmoid函数预测分类结果,可表示为:
式中:x 表示分类标签;g 表示分类概率[15]。
分类工作表示为:
3 实验结果与分析
3.1 实验环境
为取得更好的实验结果,本次实验将分别在硬件和软件2个环境下进行实验。其中,硬件设备选用 Inter XeonE5-2620V48 Core 的 CPU,内存大小为20 M;软件选择Ubuntul6.04LTS64的操作系统。编程语言选择较为常用的Python,模型框架为keras。
3.2 实验数据
实验数据通过人工、实验室和无人机3种方式进行采集,采集对象为混凝土、桥梁等地面的裂缝图像共计850张。其中,人工采集数量为255张,无人机和实验室采集数量分别410、185张,分辨率大小分别为4517×3318(Pixel)、4732×3257(Pixel)、1437×2464(Pixel)。由于采集的数据集存在尺寸和清晰度的偏差,导致最终实验结果不准确。因此,实验将对采集图像进行预处理,通过尺寸裁剪的方式将图像大小控制在200×200(Pixel),共计1800张。将所有图像集按照7∶2∶1的比例划分,分为训练、验证和测试。
3.3 参数设置
为使实验结果更加准确,实验将对模型进行多次训练,训练方式通过RMSprop算法进行参数优化。进行多次训练后,得到该模型最大迭代数为400, Batch size为128,丢失率loss rate大小为0.5,学习率设置为0.0001。
3.4 实验结果
3.4.1 训练结果对比分析
完成以上参数设置后,在400次迭代次数下,将训练集和验证集应用到模型中,得到三者间的关系曲线,具体如图3、图4所示。
从图3可以看出,迭代次数的不断提升,训练和验证的精度均能够取得较高的效果,迭代至100次时,模型区域平稳状态;当迭代次数更新至390次时,模型收敛速度减慢,且逐渐停止,其训练精度取值为95%;迭代至377次时,验证精度达到94.3%。
从图4可以看出,随着迭代次数的不断增加,损失函数在不断减小,当迭代次数达到62次时,模型开始缓慢收敛,且最小损失值分别为0.08和0.17。
根据以上迭代结果,实验将统计本模型与 VGG-13和ResNet模型的训练时间,具体结果如图5所示。
从图5可以看出,本模型提出的模型训练时间在3种模型中最短,训练只用了3825 s;另外2种模型分别花费了25387 s和14528 s,比本模型分别高出了21562 s和10703 s。
3.4.2 验证结果对比分析
为进一步验证 Crack-CNN 模型对裂缝图像的识别准确率,实验将本模型与传统的 VGG-13和ResNet识别模型进行性能比较,得到对比结果如图6所示。
从图6可以看出,研究提出的模型在验证集中的精度和损失值均比另外2种模型更好,说明提出的 Crack-CNN模型泛化能力更强,鲁棒性更佳,在真实的材料粘接裂缝识别中可取得更好的识别效果。
3.4.3 测试结果对比分析
为测试提出模型的分类效果,实验将构建混淆矩阵对测试集有无裂缝进行试验,测试结果如图7所示。
从图7展示结果可知,在测试集中,研究提出模型能够实现材料粘接分类的有效识别和分类,真正例、真反例分别可得到最高取值为0.95和0.93;而假正例和假反例分别为0.07和0.05。统计分析后可知,该模型对裂缝的识别平均准确率为94%,十分接近于上述验证精度的94.3%。由此说明,通过此模型可实现裂缝精准识别,预测结果与实际结果大体一致。
4 结语
研究提出的Crack-CNN模型能够实现对粘接材料裂缝的准确识别和分类,通过该模型与其他识别方法的对比结果发现,提出模型的识别准确率均保持在95%左右,且对比于其他模型来说,提出模型的训练精度和验证精度最高,在短时间内可实现快速训练,对于裂缝识别的准确率和精度进一步提升。综合分析可知,提出的Crack-CNN模型在材料裂缝中具有较好的应用效果,可在裂缝识别中进行大力推广和应用。
【参考文献】
[1] 应俊杰,夏峰,卢国庆,等.基于深度学习的桥梁裂缝识别方法研究[J].水利规划与设计,2021(1):75-80.
[2] 高庆飞,王宇,刘晨光,等.基于卷积神经网络算法的混凝土桥梁裂缝识别与定位技术[J].公路,2020,65(9):268-274.
[3] 张振华,陆金桂.基于改进卷积神经网络的混凝土桥梁裂缝检测[J].计算机仿真,2021,38(11):490-494.
[4] 丁燕,杜启振,QAMAR Y S,等.基于深度学习的裂缝预测在S区潜山碳酸盐岩储层中的应用[J].石油物探,2020,59(2):267-275.
[5] 罗伟,梁世豪,姜鑫,等.基于深度学习的野外露头区岩石裂缝识别[J].计算机与现代化,2020(5):56-62.
[6] 李可心,王钧,戚大伟.基于 G-S-G的混凝土结构裂缝识别及监测方法[J].振动与冲击,2020,39(11):101-108.
[7] 吴秋怡.基于语义分割网络模型的路面裂缝识别[J].交通科技,2020(3):80-83.
[8] 孙朝云,马志丹,李伟,等.基于深度卷积神经网络融合模型的路面裂缝识别方法[J].长安大学学报(自然科学版),2020,40(4):1-13.
[9] 雷斯达,曹鸿猷,康俊涛.基于深度学习的复杂场景下混凝土表面裂缝识别研究[J].公路交通科技,2020,37(12):80-88.
[10] 王超,賈贺,张社荣,等.基于图像的混凝土表面裂缝量化高效识别方法[J].水力发电学报,2021,40(3):134-144.
[11] 李想,熊进刚.基于深度学习 SSD 目标检测算法的混凝土结构裂缝识别[J].南昌大学学报(工科版),2021,43(1):43-51.
[12] 张伟光,钟靖涛,于建新,等.基于机器学习和图像处理的路面裂缝检测技术研究[J].中南大学学报(自然科学版),2021,52(7):2402-2415.
[13] 陈健昌,张志华.融于图像多特征的路面裂缝智能化识别[J].科学技术与工程,2021,21(24):10491-10497.
[14] 孟庆成,万达,吴浩杰,等.基于卷积神经网络的混凝土裂缝图像识别方法[J].沈阳建筑大学学报(自然科学版),2021,37(5):832-840.
[15] 马健,阎卫东,刘国奇.基于YOLOv5的古建筑木结构裂缝检测方法[J].沈阳建筑大学学报(自然科学版),2021,37(5):927-934.