马晓丹 关海鸥 祁广云 刘 刚 谭 峰
(1.黑龙江八一农垦大学信息技术学院, 大庆 163319;2.中国农业大学现代精细农业系统集成研究教育部重点实验室, 北京 100083)
基于改进级联神经网络的大豆叶部病害诊断模型
马晓丹1关海鸥1祁广云1刘 刚2谭 峰1
(1.黑龙江八一农垦大学信息技术学院, 大庆 163319;2.中国农业大学现代精细农业系统集成研究教育部重点实验室, 北京 100083)
针对大豆叶部病害性状特征与病种之间的模糊性和不确定性,将数字图像处理技术与神经网络智能推理技术相结合,充分挖掘大豆受病害胁迫后表现性状与病种之间的潜在规律,提出了基于改进级联神经网络的大豆病害诊断模型。首先利用自制载物模板无损采集大田大豆叶部病害数字图像,计算病斑区域的形状特征、颜色特征及纹理特征14维度特征参数;为突显各方面特征对于不同病害种类决定作用的差异性,构建各子神经网络并联的第1级网络,第2级网络的输入为第1级网络的输出,利用多维特征各自优势来自动取得病种模式推理规则,建立了用于大豆叶部病害自动诊断的两级级联神经网络模型,仿真实验准确率为97.67%;同时应用量子遗传计算优化级联神经网络参数,平均迭代次数为743,平均网络误差为0.000 995 445,提高了学习效率,实现了大豆叶部病害的高效自动诊断和精确测报,为大田农作物全面系统地开展作物病害监测、智能施药及自动防治提供了理论依据。
大豆病害; 特征提取; 级联神经网络; 量子遗传算法; 诊断模型
农作物病害是影响农产品高产、优质、高效益的重要因素[1]。大豆作为粮食、产油及畜牧业兼用的重要农作物,在生长过程中其病害发生率较高,需及时发现并准确诊断[2]。随着精细农业技术[3]的发展,基于计算机视觉的智能信息处理技术逐渐被应用于农作物病害的自动诊断与防治领域,为大豆病害的无损检测及快速诊断奠定了理论基础[4-10]。但基于机器视觉的大豆病害快速诊断模型鲜有报道,大豆病害表现的性状特征与病种之间存在的非线性复杂映射关系,难以定量精确的对其进行描述,本文采用数字图像处理技术获取大豆病害图像形状、颜色以及纹理3方面数字特征,利用不同特征指标识别不同病害种类的差异性和一致性,应用前馈神经网络的高维非线性分类特性和高层知识推理能力,建立大豆病害自动诊断的级联神经网络模型。
在大田自然环境下,应用自制的图像采集模板及便携数码相机采集大豆褐斑病、灰斑病以及灰星病的图像,为后期病斑图像数字化处理提供信噪低、干扰小、数字信号真实可靠的图像,如图1所示。
图1 大豆病害数字图像Fig.1 Digital image of soybean disease
依据农学植保专家知识和统计分析可以确定,大豆叶部病害可以通过综合叶片病斑图像的形状、颜色及纹理等特征进行诊断。参照文献[11]病害图像预处理方法和文献[7]的图像分割方法获得相应病斑区域图像结果,如图2所示。
图2 大豆病斑区域图像Fig.2 Images of soybean spot area
1.1 形状特征
参照文献[11]对病斑区域图像的形状特征进行提取,具体计算公式如下:
(1)圆度C
病斑圆度C是指大豆病害病斑区域形状接近圆形的程度,计算公式为
(1)
式中A——面积L——周长
(2)球状性S
病斑球状性S不受其图形几何变换(旋转、平移)以及尺度变化的影响,计算公式为
(2)
式中ri——病斑区域内切圆半径rc——外接圆半径
(3)等效椭圆B
等效椭圆B由病斑区域图形的面积以及和极惯性矩相同的相似程度来表示。计算公式为
(3)
其中,M=M(2,0)+M(0,2)表示极惯性矩是两个二阶矩之和。
(4)平均变动系数d
以病斑图像重心为分割点,以5°为间隔进行均分,得到重心到轮廓线之间的平均变动系数,计算公式为
(4)
式中Vn——病斑重心到其轮廓线的长度
大田环境下获取灰斑病、褐斑病及灰星病,每种病害各采集100幅图像,共计300幅大豆叶部病害图像,利用式(1)~(4)计算相应病害区域的形状特征参数,结果如表1所示。
表1 归一化形状特征参数
Tab.1 Geometric parameters after normalized
序号圆度球状度长短轴比变动系数病害种类10.70370.53480.26100.1674灰星病20.72140.56370.15540.2266灰斑病30.86890.72470.10710.1232褐斑病40.51210.36290.36170.1970灰星病50.81390.57810.21540.2118灰斑病60.81060.73920.09710.0837褐斑病︙︙︙︙︙︙
1.2 颜色特征
大豆叶面图像颜色信息可反映其生长发育过程中病害状况,HSI颜色空间与人眼感觉颜色的原理相似,符合植物保护专家在自然光条件下利用肉眼观察病害颜色的规律;由于大豆病害采集装置和处理设备通常采用RGB色彩空间,所以在RGB、HSI颜色空间中提取颜色特征,可更好发挥色彩空间在病害诊断中优势,计算病斑区域的红色分量R、绿色分量G、蓝色分量B、色度H、饱和度S及亮度I,参照文献[12]计算大豆病害图像的颜色特征,结果如表2所示。
表2 归一化颜色特征参数
Tab.2 Color parameters after normalized
序号RGB模型HSI模型RGBHSI病害种类10.61110.50530.36840.57140.54540.5357灰星病20.53330.55910.48680.74280.22730.5357灰斑病30.28890.24730.18420.51430.45450.2143褐斑病40.50000.43010.36840.54290.40910.4643灰星病50.55560.63440.68420.77140.04550.6429灰斑病60.41110.34410.15790.62860.68180.2857褐斑病︙︙︙︙︙︙︙︙
1.3 纹理特征
大豆病害图像不仅包含颜色信息和形状信息,同时具有丰富的纹理信息,大豆病害的宏观信息可通过数字图像的纹理来获取。由于大豆致病病原物的种类不尽相同,病斑区域也会表现出不同的纹理特征,计算病斑区域的纹理特征参数如下:
(1)平均灰度G
平均灰度表示病斑区域的亮度,计算公式为
(5)
式中Zi——灰度级随机变量Pi——灰度图相对应的出现频率L——可区分灰度级数目
(2)光滑度R
病斑区域的粗糙程度可以由光滑度R来表示,R越小,病斑图像区域越平滑,R越大,病斑区域越粗糙,当R=0时,病斑区域的各个部分强度相等,计算公式为
(6)
(3)一致性U
病斑区域的规则程度用一致性U来度量,计算公式为
(7)
(4)熵e
病斑区域的复杂性和随机性用熵e表征,熵越大,病斑区域的可变性越大越复杂,否则可变性就越小越简单,计算公式为
(8)
应用式(5)~(8)计算大豆病害图像的病斑区域的纹理特征,结果如表3所示。
表3 归一化纹理特征参数
Tab.3 Texture parameters after normalized
序号平均灰度光滑度一致性熵病害种类10.86460.16170.79800.2062灰星病20.59030.51240.60550.3960灰斑病30.60920.64260.64070.3566褐斑病40.26880.66150.21680.7400灰星病50.48910.70860.53710.4647灰斑病60.96670.09810.97870.0214褐斑病︙︙︙︙︙︙
大豆病害图像预处理后计算其形状特征、颜色特征及纹理特征,从而为大豆病害诊断模型提供了有效特征的信息源。
大豆病害症状表现具有复杂性和模糊性,病害种类与表现特征之间存在着较强的潜在规律,难以用精确数学模型表示。大豆病斑区域的形状特征、颜色特征及纹理特征存在较强独立性又相互关联,为此,提出了采用级联前馈神经网络对大豆病害进行诊断方法。通过对大豆病害诊断机理的分析,确定级联的神经网络结构,第1级网络由3个并列网络构成,输入分别为形状特征、颜色特征及纹理特征,输出为各组特征对应病害种类,第2级网络输入为第1级网络的输出,输出为级联网络诊断病害种类。
2.1 级联神经网络结构
图3 级联神经网络结构Fig.3 Structure of cascade neural network
应用3层前馈神经网络具有的自适应学习能力和归纳推理机制,能够以任意精度逼近一个非线性函数[13],建立两级级联神经网络结构,如图3所示。
图3级联神经网络拓扑结构中,一级并联神经网络的3个子网络和二级诊断网络均为典型前馈网络构成。各网络结构分为:输入层、隐含层和输出层,层与层之间一般采用全互连方式,同层单元之间不存在相互连接,网络各层分别有n1、n2和n3个节点数。
第1层为输入层。设网络输入向量为x∈Rn1,其中x=(x1,x2,…,xn1)T。
第2层为隐含层。令输入层到隐含层的连接权为wij,隐含层为高斯激励函数,阈值为θj,该层输出向量v∈Rn2,则该层第j节点输出vj为
(9)
第3层为输出层。令输出向量为y∈Rn3,隐含层到输出层的连接权为wjk,则隐含层、输出层的第k节点输出yk为
(10)
第1级并联网络分别由形状特征、颜色特征及纹理特征3组特征向量构成3个子神经网络,利用各自指标优势对病害种类进行计算输出;第2级网络以一级网络的输出为输入,利用自身自适应性和局部逼近特性的优势,建立大豆病害智能诊断模型,其输出为级联网络最终确定的病害种类。
2.2 神经网络学习方法
(11)
式中n1——输入层节点数n2——隐含层节点数n3——输出层节点数
令w为前馈神经网络各层可调整的连接权和阈值,则学习规则为
(12)
式中η——学习速度α——惯性系数t——学习次数
2.3 优化网络学习的量子遗传算法
量子遗传算法具有的全局搜索能力可有效克服神经网络易限于局部极小的缺陷,但该算法不能直接处理问题空间的参数,必须按照一定基因结构的量子染色体编码。参照文献[14-15]方法给出优化网络学习中量子染色体的编码方案为
(13)
其中cij=2πr(i=1,2,…,m;j=1,2,…,n)
式中r——(0,1)间的随机数m——种群规模n——染色体长度
量子旋转门操作[16]:确定本文量子比特相位旋转门的更新规则为
(14)
转角Δθ的方向选取时,如果R=0,sgn(Δθ)正负均可;否则sgn(Δθ)=-sgn(R);更新转角步长为[0.005π,0.1π]。
应用量子遗传算法可加快网络学习速度,提高级联神经网络效率和适应性。
在大田环境下无损地采集大豆病害数字图像,可避免在采摘作物时对作物生长连续性的破坏。通过计算大豆病害区域的形状、颜色及纹理特征参数值,建立基于级联神经网络的大豆病害智能分类器,可完成大豆灰斑病、褐斑病及灰星病的诊断过程。
3.1 基于级联神经网络的大豆病害诊断方法
基于级联神经网络的大豆病害无损智能诊断技术步骤为:首先在自然光照射下,选定感染病害的大豆叶片,将其平放在具有标准灰卡的自制载物模板上,利用数码相机进行拍摄,避免逆光现象;其次选取大豆病害区域和健康区域的部分典型像素,确定遗传神经网络结构参数,识别病害数字图像的病斑;然后计算大豆病害病斑区域的形状特征、颜色特征及纹理特征参数值;最后将3组特征值输入二级前馈神经网络对大豆病害种类进行诊断。
3.2 网络结构参数确定及学习训练
采集大豆灰斑病、褐斑病及灰星病3类图像样本,分别编码为100、010及001,共300种病害样本,其中150个样本用于算法训练,150个样本用于测试。级联神经网结构主要是确定第1级并联网络的3个子网络结构和第2级网络结构。将大豆病害病斑图像的形状特征(4维向量),作为大豆病害识别子网络模型的输入向量,通过3.1节的前馈神经网络结构确定子网络结构的输入层节点数为4;输出层为大豆病害症状分类模式编码长度,共3个节点;隐含层神经元节点为12个;所以基于形状特征的子网络拓扑结构为4-12-3型,同理可确定基于颜色特征和纹理特征的子网络拓扑结构分别为6-16-3型和4-12-3型。第2级网络以第1级并联网络的输出向量为输入,可确定输入层节点数为9;输出层为大豆病害种类模式编码长度3;隐含层神经元节点为18;该级网络拓扑结构为9-18-3型。
在所有参数都相同的情况下,采用量子遗传算法和梯度算法相结合的学习算法对网络进行训练。首先确定量子遗传算法的训练样本,随机选取每种病害种类各10个病害样本,共计30个样本作为学习算法训练样本。级联神经网络的第2级网络拓扑结构中,输入层与隐含层的连接权值为162,隐含层阈值为18,隐含层与输出层的连接权值为54;因此可确定其优化网络学习的量子遗传算法的染色体长度为234,同理可确定第1级并联神经网络的染色体长度分别为96、160及96。在网络实际训练中,优化代数为30;种群规模为30;变异概率为0.05;旋转角初值为0.05π,将计算结果作为各网络的可调整参数初始值。最后利用梯度下降算法继续求解最优解,选定150个病害样本,设定训练目标迭代精度为0.001,学习速度为0.8,惯性系数为0.5,最大学习次数为40 000。
在设定相同的目标误差精度前提下,利用传统BP神经网络和本文提出的量子遗传神经网络进行训练,其中子网络收敛情况如图4所示。
图4 网络收敛速度对比Fig.4 Comparison of network convergence speed
从图4可知:BP神经网络迭代次数为6 730次,精度误差为0.000 999 98;将量子遗传算法优化30代时,染色体中最优解作为网络可调整参数初始值;网络迭代次数为461次,精度误差为0.000 992 15。两种学习算法都使网络达到设定精度要求。
利用传统BP神经网络和本文提出的量子遗传神经网络进行训练,各子网络的迭代次数统计情况如表4所示。
表4 各网络迭代次数
Tab.4 Iteration times of networks
学习算法第1级并联网络形状特征颜色特征纹理特征第2级网络BP神经网络6730921895335249量子神经网络4611156832523
3.3 诊断模型应用
利用训练好的基于级联神经网络的大豆病害症状诊断模型,对300幅大豆病害图像进行诊断,结果如表5所示。
从大豆病害诊断效果可见,级联神经网络的实际输出值和期望输出值的误差很小,共出现了7个错误的预测结果,准确率达到97.67%;利用传统的多元线性回归模型计算时出现了105个错误的预测结果,准确率为65%;利用传统BP神经网络模型计算时出现了86个错误的预测结果,准确率为71.33%,因此本文方法是一种较为理想的大豆病害诊断模型。
表5 大豆病害诊断效果
Tab.5 Diagnosis result of soybean diseases
序号期望输出值实际输出值绝对误差和病害种类11001.14230.0345-0.01440.1912灰斑病20100.02681.00140.00470.0329褐斑病︙︙︙︙︙︙︙︙︙3000010.16330.04980.99510.2180灰星病
(1)将数字图像处理技术与神经网络智能推理技术相结合,充分挖掘了大豆受病害胁迫各表征指标与病种之间的潜在规律,提出了基于级联前馈神经网络的大豆病害诊断模型。利用自制载物模板无损地采集大田大豆病害数字图像,计算大豆病害病斑区域的形状特征(圆度、球状性、等效椭圆、变动系数)、颜色特征(红色分量、绿色分量、蓝色分量、色度、饱和度、亮度)及纹理特征(平均灰度、光滑度、一致性、熵)共14维度特征参数值,提出了大豆病害图像的数字特征提取方法,为大豆病害智能诊断模型提供了有效特征的信息源。
(2)级联前馈神经网络实现了大豆病害与相对应数字特征向量之间不确定性潜在规律的非线性映射关系。以病害形状特征、颜色特征及纹理特征3组特征向量,构建具有3个子神经网络的第1级并联网络,更好地体现了各方面特征对于不同病害种类决定作用的差异性;第2级网络输入为第1级网络的输出,综合14维度特征在病种模式推理过程中各自优势,建立大豆病害自动诊断的级联神经网络模型。大豆病害诊断仿真准确率为97.67%。
(3)量子遗传算法优化级联神经网络参数的学习方法,平均迭代次数为743,平均网络误差为0.000 995 445,满足误差精度要求,避免了传统梯度下降学习算法易出现局部最小值的缺陷,提高了学习效率。基于两级级联神经网络的大豆病害诊断模型,具有高效准确性和易推广性。
1 LUKINA E,STONE M,RAUN W. Estimating vegetation coverage in wheat using digital images[J].Journal of Plant Nutrition, 1999,22(2):341-350.
2 张云龙,来智勇,景旭,等. 基于改进BP神经网络的大豆病害检测[J]. 农机化研究,2015,37(2):79-82.
3 汪懋华,李民赞. 现代精细农业理论与实践[M]. 北京:中国农业大学出版社,2012.
4 DARRELL T,GORDON G,HARVILLE M,et al. Integrated person tracking using stereo, color, and pattern detection[C]∥IEEE Conference on Computer Vision and Pattern Recognition,1998:601-608.
5 OIDE M,NINOMIYA S. Discrimination of soybean leaflet shape by neural networks with image input[J]. Computers & Electronics in Agriculture,2000,29(1):59-72.
6 陈兵旗,郭学梅,李晓华. 基于图像处理的小麦病害诊断算法[J]. 农业机械学报,2009,40(12):190-195. CHEN Bingqi, GUO Xuemei, LI Xiaohua. Image diagnosis algorithm of diseased wheat[J].Transactions of the Chinese Society for Agricultural Machinery,2009,40(12)190-195. (in Chinese)
7 关海鸥,许少华,谭峰. 基于遗传模糊神经网络的植物病斑区域图像分割模型[J]. 农业机械学报,2010,41(11):163-167. GUAN Haiou, XU Shaohua, TAN Feng. Image segmentation model of plant lesion based on genetic algorithm and fuzzy euralnetwork[J]. Transactions of the Chinese Society for Agricultural Machinery,2010,41(11):163-167. (in Chinese)
8 马晓丹,谭峰,许少华. 基于量子神经网络的马铃薯早疫病诊断模型[J]. 农业机械学报,2011,42(6):174-178. MA Xiaodan, TAN Feng, XU Shaohua. Diagnosis method of potato early blight based on quantum neural network[J]. Transactions of the Chinese Society for Agricultural Machinery, 2011,42(6):174-178. (in Chinese)
9 关海鸥,杜松怀,马晓丹,等. 基于证据可信度不确定推理的大豆病害诊断方法[J].农业工程学报,2013,29(增刊1):109-114. GUAN Haiou, DU Songhuai, MA Xiaodan, et al. Diagnostic method of soybean diseases based on uncertain reasoning of evidence credibility[J]. Transactions of the CSAE, 2013,29(Supp.1):109-114. (in Chinese)
10 王立舒. 基于Dempster-Shafer理论的大豆病害信息诊断模型[J]. 农机化研究,2010(8):50-52,78.
11 关海鸥,黄燕. 大豆病斑智能识别无损预处理及其特征提取方法的研究[J]. 河北农业大学学报,2010,33(5):123-127. GUAN Haiou, HUANG Yan.Study on the method of non-loss pre-processing and feature extraction for intelligent recognition of soybean diseased spots[J]. Journal of Agricultural University of Hebei,2010,33(5):123-127. (in Chinese)
12 关海鸥,衣淑娟,焦峰,等. 农作物缺素症状诊断的正则化模糊神经网络模型[J/OL]. 农业机械学报,2012,43(5):162-167,156.http:∥www.j-csam.org/jcsam/ch/reader/view_abstract.aspx?file_no=20120528&flag=1.DOI:10.6041/j.issn.1000-1298.2012.05.028. GUAN Haiou, YI Shujuan, JIAO Feng, et al. Diagnosis model of crop nutrient deficiency symptoms based on regularized adaptive fuzzy neural network [J/OL]. Transactions of the Chinese Society for Agricultural Machinery, 2012, 43(5):162-167,156. (in Chinese)
13 刘彩红. BP神经网络学习算法的研究[D].重庆:重庆师范大学,2008. LIU Caihong. The study of algorithm of BP neural network[D]. Chongqing: Chongqing Normal University, 2008. ( in Chinese)
14 李盼池,李士勇. 基于量子遗传算法的正规模糊神经网络控制器设计[J].系统仿真学报,2007,19(16):3710-3716. LI Panchi, LI Shiyong. Optimal design of normalized fuzzy neural network controller based on quantum genetic algorithm[J].Journal of System Simulation,2007,19(16):3710-3716. (in Chinese)
15 杨俊安,庄镇泉,史亮. 多宇宙并行量子遗传算法[J]. 电子学报,2004,32(6):923-928. YANG Jun’an, ZHUANG Zhenquan, SHI Liang. Multi universe parallel quantum genetic algorithm[J]. Acta Electronica Sinica,2004,32(6):923-928. (in Chinese)
16 马晓丹,刘刚,周薇,等. 基于量子遗传模糊神经网络的苹果果实识别[J/OL]. 农业机械学报,2013,44(12):227-232.http:∥www.j-csam.org/jcsam/ch/reader/view_abstract.aspx?file_no=20131238&flag=1. DOI:10.6041/j.issn.1000-1298.2013.12.038. MA Xiaodan, LIU Gang, ZHOU Wei, et al. Apple recognition based on fuzzy neural network and quantum genetic algorithm [J/OL]. Transactions of the Chinese Society for Agricultural Machinery, 2013, 44(12):227-232. (in Chinese)
Diagnosis Model of Soybean Leaf Diseases Based on Improved Cascade Neural Network
MA Xiaodan1GUAN Haiou1QI Guangyun1LIU Gang2TAN Feng1
(1.CollegeofInformationTechnology,HeilongjiangBayiAgriculturalUniversity,Daqing163319,China2.KeyLaboratoryofModernPrecisionAgricultureSystemIntegrationResearch,MinistryofEducation,ChinaAgriculturalUniversity,Beijing100083,China)
Crop disease is an important factor to restrict high-yielding, high-quality and high efficiency of products. Soybean is a critical crop, but incidence of soybean diseases increases year by year during their growth, so diagnosis of soybean diseases timely and accurately can provide reliable basis for prevention and control of soybean. Therefore, aiming at the fuzzy and uncertainty between disease traits and diseases of soybean leaf diseases, combining digital image possessing and neural network technology, the diagnosis model of soybean diseases was proposed based on improved cascade neural network after the potential rules of disease traits and diseases was fully mined. Firstly, the diseases images were acquitted by home-made slide template, the 14 dimensional characteristic parameters were calculated based on the geometry characteristic, color characteristic and texture characteristic of disease areas. Secondly, in order to highlight all aspects of characteristics for different kinds of diseases, the first level of each parallel neural network was constructed, the output of the first level was the input of the second level. Thirdly, the two slopes cascade neural network model was established for diagnosis soybean leaf diseases automatically, which based on inference rules of diseases using respective advantages of multidimensional characteristics, the simulation accuracy was 97.67%. Meanwhile, the cascade neural network parameters were optimized by quantum genetic algorithm. The average number of iterations was 743, and the average network error was 0.000 995 445. The proposed method realized the automatic diagnosis and precise forwards, which also provided important theory basis for disease monitoring and smart pesticide spraying.
soybean diseases; characteristic extraction; cascade neural network; quantum genetic algorithm; diagnosis model
10.6041/j.issn.1000-1298.2017.01.021
2016-02-20
2016-03-30
国家自然科学基金项目(31601220、31371532)、黑龙江省自然科学基金项目(QC2016031)、“十二五”国家科技支撑计划项目(2014BAD06B01)和黑龙江省农垦总局科技项目(HNK125A-08-03)
马晓丹(1980—),女,副教授,博士,主要从事计算机农业应用技术研究,E-mail: bynd_mxd@163.com
祁广云(1963—),男,教授,主要从事电子信息在农业中的应用研究,E-mail: bynd_qgy@163.com
TN911.73; TP183
A
1000-1298(2017)01-0163-06