基于堆栈降噪自动编码器的桥梁损伤识别方法

2018-06-04 07:29谢祥辉单德山周筱航
铁道建筑 2018年5期
关键词:编码器正确率分类器

谢祥辉,单德山,周筱航

(西南交通大学 土木工程学院,四川 成都 610031)

桥梁结构在运营过程中由于超载、疲劳和地震等原因不可避免地出现损伤,将影响桥梁结构的正常使用和安全[1],因此及时准确地对桥梁进行损伤识别十分必要。现有桥梁结构损伤识别方法主要有模型修正法、损伤指标法、模式识别法等[2-3]。模式识别法具有分类能力强、拟合能力强、人为因素影响小等优点,在桥梁损伤识别中得到了广泛应用[4-5]。

桥梁损伤识别的模式识别法主要包括人工神经网络和支持向量机[2]。其中,人工神经网络中的BP神经网络和支持向量机在桥梁损伤识别中得到了较为全面而深入的研究。杨杰等[6]对BP神经网络在大跨斜拉桥斜拉索损伤识别中的应用进行了深入的研究。MEHRJOO等[7]以固有频率及振型为输入参数,利用BP神经网络实现了对桁架桥的损伤识别。单德山等[8]将地震易损性与支持向量机相结合,提出了桥梁地震损伤识别方法。HASNI等[9]利用支持向量机对钢桥箱梁的疲劳裂缝识别进行了研究。但是BP神经网络及支持向量机的网络结构较为简单,隐含层数量较少,使其模式分类能力较弱[10],限制了现有模式识别方法在桥梁损伤识别中的应用。

深度神经网络克服了BP神经网络与支持向量机的不足,具有更强的模式分类和复杂函数拟合能力,适用于解决复杂的模式分类问题[10-11]。目前深度神经网络已经获得较大发展,在计算机视觉、语音识别等领域得到了广泛应用[12-14]。其中,堆栈降噪自动编码器SDAE(Stacked Denoising Autoencoders)的网络结构和训练优化相对简单且具有较强的模式识别能力,已在手写数字识别等领域取得了良好的应用效果[15-16]。但目前关于SDAE在桥梁损伤识别领域中的应用研究仍较为欠缺。

本文针对桥梁损伤识别中现有模式识别法存在的问题,将SDAE引入桥梁损伤识别工作中,提出了基于SDAE的桥梁损伤识别方法。

图1 基于堆栈降噪自动编码器的深度神经网络结构

1 堆栈降噪自动编码器

SDAE是目前常用的深度神经网络结构,是一种经过无监督贪婪逐层预训练和系统性参数优化的多层非线性深度网络结构[15]。SDAE由数个负责特征提取的降噪自动编码器DAE(Denoising Autoencoder)和顶层的分类器组成,其网络结构见图1。每一层的DAE对输入参数进行抽象特征提取,得到输入参数的抽象特征。输入样本经过多层DAE的特征提取与组合后,最终形成输入样本的高阶抽象特征并作为分类器的输入。最终,样本所属类别由分类器作出判断[10]。

DAE由编码器及解码器组成,见图2。DAE从含噪声的受损输入数据中学习原始输入数据的特征,经过编码及解码后力求重现原始输入数据,可以在保留输入数据特征的基础上提取其抽象表示[15]。

图2 降噪自动编码器

编码器是添加噪声后的输入数据x到隐含层的映射,可以表示为

h=f(x)=Sf(Wx+bI)

(1)

式中:h为经过编码后得到输入数据的隐含层表示;Sf为编码器的激励函数,本文采用非线性激励函数Sigmoid函数,即Sf(x)=1/(1-ex);W为输入层到隐含层的权重参数矩阵;bI为输入层到隐含层的偏置矩阵。

解码器是隐含层到输入层的映射,解码后得到重构数据y,可以表示为

(2)

2 基于堆栈降噪自动编码器的桥梁损伤识别方法

桥梁损伤识别可以分为损伤预警、损伤定位、损伤程度评估3部分[17]。本文提出的基于SDAE的桥梁损伤识别方法适用于损伤预警及损伤定位任务。

基于SDAE的桥梁损伤识别方法的步骤包括:选择损伤指标、构建样本库、选择分类器及训练网络结构,见图3。与现有的模式识别法相比,基于SDAE的桥梁损伤识别方法的主要区别是样本库的构建、分类器的选择及网络的训练方法。以下对基于SDAE桥梁损伤识别方法与现有模式识别法的不同之处进行说明。

图3 基于降噪自动编码器的桥梁损伤识别方法

2.1 样本库的构建

现有的模式识别法在确定损伤指标后,依托有限元分析等方法,应用有标签的样本构建训练样本库。但是,基于SDAE损伤识别方法还需要构建包含大量无标签样本的预训练样本库,用于DAE的预训练。预训练样本库中的无标签样本应按选定的损伤指标进行提取,但样本的类别标签无需标出。

有标签样本的获取消耗大量的时间及人力成本,而无标签样本数据的获取则相对容易。使用无标签样本的预训练能提高网络结构的识别能力,降低对有标签数据的依赖,这是基于深度学习的神经网络方法的重要基础[18]。

2.2 分类器的选择

目前,Softmax回归模型是SDAE分类器常用的算法,是Logistics回归模型的扩展,适用于多种分类问题[19]。桥梁结构损伤通常同时存在多种损伤模式,因此本文将采用Softmax回归模型进行损伤模式分类。

Softmax回归模型的输出是输入样本属于某一类别的概率,其所有输出之和为1。例如当样本的损伤模式类别共有4类,输出结果为(0,0,0.8,0.2)时,则该样本属于类别3的概率为80%,属于类别4的概率为20%。样本的类别判定为输出结果中概率最大的类别,即该样本属于类别3且识别结果置信度为80%。

2.3 网络的训练

SDAE的训练包括DAE的无监督贪婪逐层预训练和整个SDAE的系统性参数优化2个步骤[15]。DAE的预训练步骤如下:

1)使用无监督算法对第一层DAE进行训练,将重构样本的重构误差控制在一定范围,其输出作为下一层DAE的输入;

2)以上一层DAE的输出作为输入,使用无监督算法对本层DAE进行训练,使其重构误差控制在一定范围;

3)重复步骤2),直到完成所有DAE的训练为止;

4)将最后一个DAE的输出作为分类器的输入。

DAE的预训练完成后,为使网络具有分类或拟合能力,还需要对整个SDAE进行有监督训练,即整个网络的系统性参数优化,系统性参数优化可采用梯度下降算法[15]。

3 算例分析

本文以连续梁桥为例,进行损伤位置识别,详细论述本文提出的基于SDAE的桥梁损伤识别方法,并验证其准确性及适用性。

3.1 模型概况

连续梁桥横截面为0.5 m×0.5 m,长度为(24+24)m,分为24个单元,每个单元长度为2 m,见图4。连续梁桥的材料为钢,材料的弹性模量E=2.06×108kN/m2,泊松比υ=0.3,密度ρ=7 850 kg/m3。结构损伤主要体现为其刚度的下降。本文以材料弹性模量E的下降模拟损伤,使用ANSYS建立该连续梁桥的有限元模型。

图4 连续梁桥模型示意

3.2 连续梁桥的损伤模式分类

研究结果[20-21]表明曲率模态能较好地进行损伤定位。因此,本文采用梁的曲率模态作为损伤指标,曲率模态计算方法可以表示为

(3)

式中:γij为梁的第i个节点在j模态阶数下的曲率模态;Zij为梁的第i个节点在j模态阶数下的位移模态;l为相邻梁节点间的距离。

针对该连续梁桥的损伤位置识别任务,本文构建了包含3个DAE及1个分类器的SDAE模型。其中,分类器算法使用Softmax回归模型。同时,本文还建立了隐含单元数量与SDAE模型一致的BP神经网络,使用同一监督训练样本库进行训练。为比较2种方法的损伤识别效果,分别应用所提方法及BP神经网络法对连续梁桥的损伤位置进行识别,并对2种方法的识别正确率进行对比。

本文设定的损伤工况既包括单处损伤工况,也包含多处损伤工况。损伤模式类别由损伤位置决定,损伤位置相同的工况归为同一类别,而损伤位置则由损伤单元决定,损伤工况见表1。其中,损伤模式记忆能力测试工况为T1,T4,T7,内推能力测试工况为T2,T5,T8,外推能力测试工况为T3,T6,T9。

预训练样本库由任意提取的285个无标签连续梁桥曲率模态样本组成。监督训练样本库由表1中9个工况的损伤单元分别发生10%,20%,30%,40%及50%损伤的有标签样本组成,即由45个有标签样本组成监督训练样本库。依据前述的SDAE训练方法,依次进行DAE的无监督贪婪逐层预训练及SDAE的监督训练(系统性参数优化)。BP神经网络按梯度下降算法进行训练。测试以表1中的9个损伤工况作为测试工况,SDAE损伤识别结果见表2,BP神经网络损伤识别结果见表3。

表1 损伤工况

表2 SDAE损伤识别结果

由表2可见,基于SDAE损伤识别方法的损伤位置识别结果正确率为100%,置信度较高。识别结果说明:所提方法的损伤模式记忆能力较强,具备良好的内推及外推能力。基于SDAE桥梁损伤识别方法的损伤位置识别能力良好,能够很好地区分不同损伤位置,并进行准确地损伤定位。

表3 BP神经网络损伤识别结果

由表3可见:基于BP神经网络损伤识别方法的识别正确率仅为78%(正确7个,误判2个),在损伤情况较为复杂时识别正确率出现了下滑。在与表2的损伤识别结果进行对比后,可以发现:基于SDAE桥梁损伤识别方法可以在监督训练样本数量相同的条件下实现比BP神经网络方法更高的损伤识别正确率。

3.3 抗噪性能研究

在实际的试验及测量中,噪声的影响不可避免。为考虑噪声对所提方法损伤识别效果的影响,考虑5%,10%,20%的噪声对所提方法识别结果的影响。噪声的施加方式为

X=(1+rδ)X0

(4)

式中:X0为未施加噪声之前的特征值;r为噪声水平;δ为 均值0、标准差1的高斯随机数。

施加噪声后所提方法的损伤识别结果见表4—表6。

表4 SDAE损伤识别结果(5%噪声)

由表4—表6可见,在5%,10%噪声的影响下,本文方法的损伤识别结果正确率较高,分别为89%(正确8个,误判1个)、78%(正确7个,误判2个)。即使噪声水平达到20%,识别结果正确率仍达67%(正确6个,误判3个)。测试结果表明:在较高水平噪声影响下,本文方法仍可以保持良好的识别效果,具有良好抗噪性能。

表5 SDAE损伤识别结果(10%噪声)

表6 SDAE损伤识别结果(20%噪声)

4 结论

1)本文提出的基于堆栈降噪自动编码器的桥梁损伤识别方法识别效果良好,识别正确率高。

2)在有标签样本数量相同的情况下,本文所提方法能充分利用无标签数据,获得比传统BP神经网络方法更高的识别正确率和更强的识别能力。

3)在较高水平噪声影响下,本文所提方法能保持较高的识别正确率,具有较强的抗噪能力。

4)本文仅是对堆栈降噪自动编码器等深度神经网络在桥梁损伤识别领域应用的初步探索,其在实际复杂桥梁上的识别效果还有待进一步研究。

[1]朱宏平,余璟,张俊兵.结构损伤动力检测与健康监测研究现状与展望[J].工程力学,2011,28(2):1-11.

[2]吴向男,徐岳,梁鹏,等.桥梁结构损伤识别研究现状与展望[J].长安大学学报(自然科学版),2013,33(6):49-58.

[3]韩大建,王文东.基于振动的结构损伤识别方法的近期研究进展[J].华南理工大学学报(自然科学版),2003,31(1):91-96.

[4]刘鑫.桥梁结构损伤识别的模式分类和聚类识别方法研究[D].武汉:武汉理工大学,2014.

[5]单德山,付春雨,李乔.桥梁结构损伤诊断的统计学习理论[M].北京:科学出版社,2014.

[6]杨杰,李爱群,缪长青.BP神经网络在大跨斜拉桥的斜拉索损伤识别中的应用[J].土木工程学报,2006,39(5):72-77.

[7]MEHRJOO M,KHAJI N,MOHARRAMI H,et al.Damage Detection of Truss Bridge Joints Using Artificial Neural Networks[J].Expert Systems with Applications,2008,35(3):1122-1131.

[8]单德山,周筱航,杨景超,等.结合地震易损性分析的桥梁地震损伤识别[J].振动与冲击,2017,36(16):195-201.

[9]HASNI H,ALAVI A H,JIAO P,et al.Detection of Fatigue Cracking in Steel Bridge Girders:A Support Vector Machine Approach[J].Archives of Civil & Mechanical Engineering,2017,17(3):609-622.

[10]BENGIO Y.Learning Deep Architectures for AI[J].Foundations and Trends in Machine Learning,2009,2(1):1-55.

[11]HINTON G E,OSINDERO S,TEH Y W.A Fast Learning Algorithm for Deep Belief Nets[J].Neural Computation,2006,18(7):1527-1554.

[12]SOHN K,JUNG D Y,LEE H,et al.Efficient Learning of Sparse,Distributed,Convolutional Feature Representations for Object Recognition[C]// IEEE International Conference on Computer Vision.Barcelona,Spain:DBLP,2011:2643-2650.

[13]BENGIO Y,COURVILLE A,VINCENT P.Representation Learning:A Review and New Perspectives[J].IEEE Transactions on Pattern Analysis & Machine Intelligence,2013,35(8):1798-1828.

[14]刘建伟,刘媛,罗雄麟.深度学习研究进展[J].计算机应用研究,2014,31(7):1921-1930.

[15]曲建岭,杜辰飞,邸亚洲,等.深度自动编码器的研究与展望[J].计算机与现代化,2014(8):128-134.

[16]VINCENT P,LAROCHELLE H,BENGIO Y,et al.Extracting and Composing Robust Features with Denoising Autoencoders[C]// Proceeding of the 25th International Conference on Machine Learning.New York,American:ACM Press,2008:1096-1103.

[17]单德山,付春雨,李乔.铁路桥梁损伤的统计模式识别[J].桥梁建设,2011,41(1):18-21.

[18]ERHAN D,BENGIO Y,COURVILLE A,et al.Why Does Unsupervised Pre-training Help Deep Learning?[J].Journal of Machine Learning Research,2010,11(3):625-660.

[19]汪海波,陈雁翔,李艳秋.基于主成分分析和Softmax回归模型的人脸识别方法[J].合肥工业大学学报(自然科学版),2015(6):759-763.

[20]张谢东,张治国,詹昊.基于曲率模态和柔度曲率的结构多损伤识别[J].武汉理工大学学报,2005,27(8):35-37.

[21]陈江,熊峰.基于曲率模态振型的损伤识别方法研究[J].武汉理工大学学报,2007,29(3):99-102.

猜你喜欢
编码器正确率分类器
融合CNN和Transformer编码器的变声语音鉴别与还原
个性化护理干预对提高住院患者留取痰标本正确率的影响
基于朴素Bayes组合的简易集成分类器①
门诊分诊服务态度与正确率对护患关系的影响
舞台机械技术与设备系列谈(二)
——编码器
基于特征选择的SVM选择性集成学习方法
基于双增量码道的绝对式编码器设计
基于差异性测度的遥感自适应分类器选择
生意
生意