刘婷婷 王婷 胡林
基于卷积神经网络的水稻纹枯病图像识别
刘婷婷 王婷 胡林*
(农业部农业大数据重点实验室/中国农业科学院 农业信息研究所,北京 100081;*通讯联系人,E-mail: hulin@caas.cn)
【目的】水稻纹枯病是影响水稻生产的三大病害之一。研究卷积神经网络对水稻纹枯病的自动识别,弥补人工识别的不足,对预防和准确识别水稻蚊枯病类型有着重要意义。【方法】以卷积神经网络进行水稻纹枯病识别,并与基于支持向量机的识别方法进行对比。【结果】卷积神经网络识别率达到97%,优于支持向量机的95%。【结论】卷积神经网络运用于水稻纹枯病识别是可行的,弥补了人工识别的不足。此算法训练的模型有着较好的识别性能。
水稻纹枯病;卷积神经网络;分类识别
水稻纹枯病是影响北方水稻生产的三大主要病害之一[1],目前该病已在水稻种植国家普遍发生,一般导致减产10%~30%,严重时可达50%[2]。近20年来,我国北方稻区纹枯病发生频率所造损失已超稻瘟病,成为我国粮食安全的重大威胁。我国是农业大国,随着生活水平的提高,人们对农产品的品质要求也越来越高。水稻病害是直接影响水稻产量的重要因素。在实际生产中,农民主要依据自身经验,凭感觉地对水稻病害进行诊断。虽然这也取得了一定的水稻病害防治效果,但由于农民对水稻病害识别能力有限.通过肉眼识别病害,往往此时水稻的病害程度已比较严重。这样就不能做到及时防治和“对症下药”,造成农药使用量大、药效低、成本高的恶果,对环境和水稻质量安全造成了严重影响。因此,传统的水稻病害检测方法不仅费时费力,还会严重影响病害预报的准确率。计算机图像处理和识别技术的发展给水稻的病害准确识别带来了可能。
利用模式识别技术对农作物病害进行识别,是目前植物病害识别的研究趋势。20世纪70年代,国外对农作物病害的图像识别研究兴起。1973年,印度用红外航空遥感拍摄了孟买附近的稻田照片,当时大部分稻谷已成熟,绿色稻谷呈深红色,成熟的黄色稻谷呈黄绿色,而感染了白叶枯病的黄色稻谷则呈黑色,通过红外遥感可以探测水稻白叶枯病[3]。1999年,Sasaki Y等[4]研究了黄瓜炭疽病的图像自动识别,采用遗传算法研究不同的分光反射特性和光学滤波对病害识别的影响,从分光反射特性和形状特性的角度建立了识别参数,对病害进行了识别;由于未充分利用病害的颜色及纹理信息,因此识别精度不高。2000年,Gassoumi H等[5]对棉花害虫分类,利用人工神经网络,通过模糊控制方法创建自适应神经模糊控制系统,建立一套自动棉花害虫田间管理系统。国内相关的研究于2000年兴起。陈佳娟等[6]使用计算机视觉技术,根据棉花叶片的孔洞及叶片边缘的残缺,来测定棉花虫害的受害程度,此算法应用局部门限法完成图像与背景的分离,使用高斯拉普拉斯算子进行棉花图像的边缘检测;用边缘跟踪算法确定棉叶上的孔洞;利用膨胀算法确定叶片边缘的残缺,该方法可有效测定棉花虫害的受害程度。2003年,徐贵力等[7]在无土栽培番茄缺乏营养元素识别研究中,针对如何提取缺素叶片纹理特征问题,提出差分百分率直方图法,原理是特征有效性不受叶片形状差异、大小和叶片图像中叶片周边白色背景的影响,该方法能较好地提取出缺素叶片纹理特征。田有文等[8,9]应用支持向量机分类方法研究了黄瓜、玉米病害的识别问题,取得了良好的识别效果。2012年,张健华等[10]基于bp神经网络研究了棉花病害识别问题。2014年王献锋等[11]提取叶片病斑颜色、形状、纹理等特征,结合环境信息,利用判别分析法,识别黄瓜病斑类别。以上研究都是基于提取植物特征再基于传统识别算法对病害进行识别,但是病害叶片不一定出现病变,即使出现病变,病斑也可能出现粉状物,这样分割病害图像时存在困难,降低识别的效果。因此,这些算法局限于对植物叶片病害的识别。Rumelhart等[12]提出了后向传播(Back Propagation,BP)算法,使得神经网络的训练变得简单可行。卷积神经网络(Convolutional Neural Networks, CNN)在20世纪80年代提出[13],Lecun等[14]最早将CNN用于手写数字识别。近年来CNN已成功用于人脸识别、语音识别、自然语言处理、医学图像等领域[15-25],无论是精度方面还是速度方面都要优于传统算法。CNN常见模型有Lenet[26]、Alexnet[27, 28]、Googlelenet[29, 30]、Vggnet[31, 32]、Resnet[33, 34]、Network in Network[35, 36]。支持向量机是由Vapnik领导的AT&T Bell实验室研究小组在1995年提出的一种新的非常有潜力的分类技术[37]。SVM基于统计学习理论的模式,主要应用于模式识别领域。SVM兼顾训练误差和泛化能力,在解决小样本、非线性、高维数、局部极小值等问题的模式识别问题中表现出许多特有的优势[38],并能够推广应用到函数拟合等其他机器学习问题中。在使用支持向量机(SVM)算法识别水稻病害前,先需要对病害图像进行分割,并提取病害特征。对病害图像分割主要是将图像划分为各自不同的簇区域,使得每个区域的像素均具有相似的灰度值,然而聚类区域的划分和每个聚类区域内像素对聚类中心的隶属度是研究的难点[39]。
本研究提出的识别算法基于卷积神经网络,不依赖于植物病害的特定特征,以提高对水稻纹枯病识别的效率和准确率。
本研究中,在自然光照下拍摄水稻纹枯病发病和健康图片各100张,以.jpg格式保存。将图像在不损害图片完整性的前提下,裁减为227×227像素。
1.2.1 卷积神经网络
本研究使用AlexNet网络模型,这是由Krizhevsky等在2012年建立的[30]。AlexNet模型共有5个卷积层,3个全连接层,前两个卷积层和第5个卷积层有池化层,其他两个卷积层没有池化。
虽然AlexNet网络都用图1的结构来表示,但是本研究输入图像的尺寸不是224×224×3,而应该是227×227×3,原因是227可以整除后面的conv1计算,224不整除。
图1 Alexnet网络结构流程[27]
Fig. 1. An illustration of the architecture of Alexnet[27].
与传统的CNN相比,AlexNet模型采用ReLU代替饱和非线性函数,降低模型的计算复杂度,提升训练速度;通过随机失活正则化(dropout)技术在训练过程中将中间层的部分神经元置0,模型减少了全连接层的过拟合。
1.2.2 支持向量机(SVW)
支持向量机(SVM)是由Vapnik领导的AT&T Bell实验室研究小组在1995年提出的一种新的非常有潜力的分类技术[37]。SVM兼顾训练误差和泛化能力,在解决小样本、非线性、高维数、局部极小值等问题的模式识别问题中表现出许多特有的优势[38],并能够推广应用到函数拟合等其他机器学习问题中。
本研究使用模糊C均值聚类算法[39]进行病害特征分割,对分割得到的病害图像进行特征提取,分别提取颜色特征、纹理特征、形状特征。颜色特征采用HSI和RGB两种颜色空间,共提取RGB的值图像直接获取,HSI值由RGB转化。
灰度共生矩阵的纹理特征分析方法是统计方法的典型代表。Gotlieb 和 Kreyszig 等[40]在研究共生矩阵中各种统计特征基础上,通过实验,得出灰度共生矩阵的四个关键特征:能量、惯量、相关性和熵。
形状特征采用矩特征。矩特征主要表征了图像区域的几何特征,又称为几何矩。由于其具有旋转、平移、尺度等特性的不变特征,所以又称其为不变矩。利用归一化中心矩,可以获得对平移、缩放、镜像和旋转都不敏感的7个不变矩[41]。
本研究根据主成分分析算法将分类贡献度超过90%的特征作为支持向量机的输入向量;以病害图片和健康图片形成输入症状集和输出结果;利用SVM对样本进行训练,最后进行测试。
CNN算法采用Alexnet模型,5个卷积层,3个全连接层,前两个卷积层和第5个卷积层有pool池化层,其他两个卷积层没有池化。每层处理流程如下:
表1 识别算法结果对照
表2 识别算法结果方差分析
表3 识别算法结果无重复双因素分析
根据表3中的行的>临界值,并且>0.01,<0.05;识别算法结果CNN结果和SVM结果差异显著。
Given>crit and>0.01,<0.05; the result of the recognition algorithm CNN and the result of the SVW are significantly different.
第一层(卷积层)流程为卷积→ReLU→池化→归一化;第二层(卷积层)流程为卷积→ReLU→池化→归一化;第三层(卷积层)流程为卷积→ReLU;第四层(卷积层)流程为卷积→ReLU;第五层(卷积层)流程为卷积→ReLU→池化;第六层(全连接层)流程为卷积(全连接)→ReLU→Dropout;第七层(全连接层)流程为:全连接→ReLU→Dropout;第八层(全连接层)流程为全连接。
SVM算法通过提取出的分类贡献度超过90%的8个特征分别是纹理特征的熵,形状特征的矩形度、形状参数、不变矩3,不变矩4,不变矩5,不变矩6,不变矩7作为支持向量机的输入向量。
本研究用水稻纹枯病图片和健康水稻图片各100幅进行CNN算法和SVM算法的训练和识别。将图片分为5组,每一次用一组20张水稻纹枯病图片和20张健康水稻图片作为测试图片,其余160张图片作为训练图片;一共实验五次,全部图片都作为测试及训练图片一遍,计算平均正确识别率。由表1可知CNN算法优于SVM算法;对识别算法的识别率进行方差分析,如表2所示;再通过无重复双因素分析可判断出CNN算法和SVM算法识别率有显著差异,即CNN算法显著优于SVM算法,识别结果如表3所示。
水稻病害的识别是农业信息的重要研究领域,提升病害的自动识别能力对病害防治、粮食增产有着重要作用。
运用SVM等传统识别算法水稻病害的识别,识别前的需要分割病害图像、提取特征,因此对病害图片要求苛刻。本研究实现了用卷积神经网络对水稻纹枯病的识别,算法比传统识别算法准确率、效率均有所提高。
为达到推广应用的效果,未来的研究方向:1)丰富样本量,丰富不同病害及同一病害不同发病时期的图像样本;提升获取图像的能力,结合网络、遥感、地理信息系统等技术,建立丰富的图像数据库。2)在水稻整个生长期,根、茎、叶、穗各部位都有可能发病,且病害表征有所不同,所以需要优化算法,达到对多种病害高效率高准确率的识别。
通过计算机图像识别技术快速识别出病害,即可最大限度减少农民损失,也同时为精准施药提供支持,减少环境污染。本研究针对水稻纹枯病,提出一种基于CNN识别算法,对病害图像的识别率达到97%,优于SVM对病害图像的识别率95%。
[1] 桑海旭, 王井士, 刘郁, 李运动, 马晓慧, 刘志恒. 水稻纹枯病对水稻产量及米质的影响. 北方水稻, 2013, 43(1): 10-13.
Sang H X, Wang J S, Liu Y,Li Y D, Ma X H, Liu Z H. The effect of rice sheath blight on yield and quality., 2013, 43(1): 10-13. (in Chinese)
[2] 李雪婷, 徐梦亚, 郑少兵, 孙正祥, 周燚. 水稻纹枯病研究进展. 长江大学学报: 自然科学版, 2017, 14(14): 15-18.
Li X T, Xu M Y, Zheng S B, Sun Z X, Zhou Y. Research progress in rice sheath blight.:, 2017, 14(14): 15-18. (in Chinese with English abstract).
[3] 路桂珍, 杨秀军. 应用红外遥感技术监测植物病虫害.红外技术, 1990, 12(2): 18-21.
Lu G Z, Yang X J. Application of infrared remote sensing technology in monitoring plant diseases and insect pests., 1990, 12(2): 18-21. (in Chinese with English abstract).
[4] Sasaki Y, Kamoto T O. Automatic diagnosis of plant disease., 1999, 61(2): 119-126.
[5] Gassoumi H, Prasad N R, Ellington J J. Neural network-based approach for insect classification in cotton ecosystems. Bangkok, Thailand: International Conference on Intelligent Technologies (InTech 2000), 2000, 7.
[6] 陈佳娟, 赵学笃. 采用计算机视觉进行棉花虫害程度的自动测试. 农业工程报, 2001, 17(2): 157-160.
Chen J J, Zhao X D. Automatic measurement of danger degree of cotton insect pests using computer vision., 2001, 17(2): 157-160. (in Chinese with English abstract)
[7] 徐贵力, 毛罕平, 李萍萍. 差分百分率直方图法提取缺素叶片纹理特征. 农业机械学报, 2003, 34(2): 76-79.
Xu G L, Mao H P, Li P P. Research on extraction leaf texture features as sample of nutrient shortage by percent histogram of differentiation., 2003, 34(2): 76-79.(in Chinese with English abstract)
[8] 田有文, 张长水, 李成华. 基于支持向量机和色度矩的植物病害识别研究. 农业机械学报, 2004, 35(3): 95-98.
Tian Y W, Zhang C S, Li C H. Study on plant disease recognition using support vector machine and chromaticity moments., 2004, 35(3): 95-98. (in Chinese with English abstract)
[9] 田有文, 李成华. 基于图像处理的日光温室黄瓜病害识别的研究. 农机化研究, 2006(2): 151-153.
Tian Y W, Li C H. Research on recognition of cucumber disease based on image processing in sunlight greenhouse, 2006(2): 151-153. (in Chinese with English abstract)
[10] 张建华, 祁力钧, 冀荣华, 王虎, 黄士凯, 王沛. 基于粗糙集和BP神经网络的棉花病害识别. 农业工程学报, 2012, 28(7): 161-167.
Zhang J H, Qi L J, Ji R H, Wang H, Huang S K, Wang P. Cotton diseases identification based on rough sets and BP neural network., 2012, 28(7): 161-167. (in Chinese with English abstract)
[11] 王献锋, 张善文, 王震, 张强. 基于叶片图像和环境信息的黄瓜病害识别方法.农业工程学报, 2014, 30(14): 148-153.
Wang X F, Zhang S W, Wang Z, Zhang Q. Recognition of cucumber diseases based on leaf image and environmental information., 2014, 30(14): 148-153. (in Chinese with English abstract)
[12] Rumelhart D E, Hinton G E, Williams R J. Learning internal representations by error propagation. DTIC Document, 1985.
[13] Lecun Y, Boser B, Denker J S, Henderson D, Howard R E, Hubbard W, Jackel L D. Backprogation applied to handwritten zip code recognition., 1989, 1(4): 541-551.
[14] Lecun Y, Bottou L, Bengio Y, Haffner P.Gradient-based learning applied to document recognition., 1998, 86(11): 2278-2324.
[15] Abhishek S, Nasser K. A convolutional neural network smartphone app for real-time voice activity detection., 2018, 6: 9017-9026.
[16] Wang P, Xu B, Xu J M, Tian G H, Liu C L, Hao H W. Semantic expansion using word embedding clustering and convolutional neural network for improving short text classification., 2016, 174: 806-814.
[17] Zhao M, Li H, Shi X, Chan Y, Luo X, Li T. Automated recognition of zygote cytoplasmic area (ZCA) in time-lapse imaging (TLI) based on deep convolutional neural network (CNN)., 2017, 108(3): 239.
[18] Tung T S, Lee G. Language identification in handwritten words using a convolutional neural network., 2017, 13(3): 38-42.
[19] Shi B G, Bai X, Yao C. Script identification in the wild via discriminative convolutional neural network., 2016, 52: 448-458.
[20] Syafeeza A R, Mohamed K H, Rabia B. Finger-vein biometric identification using convolutional neural network., 2016, 24: 1863-1878.
[21] Peng M, Wang C Y, Chen T, Liu G Y. NIRFaceNet: A convolutional neural network for near-infrared face identification., 2016, 7(4): 61.
[22] Jorden H, Victoria L, Vit G K, Purang A, Robert R. SLIDE: automatic spine level identification system using a deep convolutional neural network., 2017, 12(7): 1189-1198.
[23] Zhang W, Du Y H, Taketoshi Y, Wang Q. DRI-RCNN: An approach to deceptive review identification using recurrent convolutional neural network., 2018, 54(4): 576-592.
[24] Lee S J, Yun J P, Koo G, Kim S W. End-to-end recognition of slab identification numbers using a deep convolutional neural network., 2017, 132: 1-10.
[25] Zhang Y Y, Zhao D, Sun J D, Zou G F, Li W T. Adaptive convolutional neural network and its application in face recognition., 2016, 43(2): 389-399.
[26] Lecun Y, Bottou L, Bengio Y, Haffner P. Gradient-based learning applied to document recognition., 1998, 86(11): 2278-2324.
[27] Krizhevsky A, Sutskever I, Hinton G E. Imagenet classification with deep convolutional neural networks. Proceedings of the Advances in Nerural Information Processing System., US: 2012: 1097-1105.
[28] Han X B, Zhong Y F, Cao L Q, Zhang L P. Pre-trained alexnet architecture with pyramid pooling and supervision for high spatial resolution remote sensing image scene classification., 2017, 9(8): 848.
[29] Szegedy C, Liu W, Jia Y Q, Sermanet P, Reed S, Anguelov D, Erhan D, Vanhoucke V, Rabinovich A. Going deeper with convolutions. Boston MA, USA: 2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2015.
[30] Mostafa M G, Berrin Y, Erchan A. Plant identification using deep neural networks via optimization of transfer learning parameters., 2017, 235: 228-235.
[31] Simonyan Karen,Zisserman. Very Deep Convolutional Networks for Large-Scale Image Recognition., 2015.
[32] Wang H Y, He Z S, Huang Y W, Chen D D, Zhou Z X. Bodhisattva head images modeling style recognition of Dazu Rock Carvings based on deep convolutional network., 2017, 27: 60-71.
[33] He K M, Zhang X Y, Ren S Q, Sun J. Deep residual learning for image recognition. Las Vegas, NV, USA: 2016 IEEE Conference on Computer Vision and Pattern Recognition(CVPR), 2016: 770-778.
[34] Sun W F, Yao B, Chen B Q, He Y C, Cao X C, Zhou T X, Liu H G. Noncontact surface roughness estimation using 2D complex wavelet enhanced resnet for intelligent evaluation of milled metal surface quality., 2018, 8(3): 381.
[35] Pang Y W, Sun M L, Jiang X H, Li X L. Convolution in Convolution for Network in Network., 2018, 29(5): 1587-1597.
[36] Chen Y, Yang X N, Zhong B N, Zhang H Z, Lin C L. Network in network based weakly supervised learning for visual tracking., 2016, 37: 3-13.
[37] Vladimir N. Vapnik. Statistical learning theory. A Wiley- Interscience Publication John wiley &son INC, 1998.
[38] 顾亚祥, 丁世飞. 支持向量机研究进展. 计算机科学, 2011, 38(2): 14-17.
Gu Y X, Ding S F. Advances of support vector machines(SVM)., 2011, 38(2): 14-17. (in Chinese with English abstract)
[39] Gonzalez R C, Woods R E. Digital Image Processing. 4th edition. Pearson, 2017.
[40] Gotlieb C C, Kreyszig H E. Texture descriptors based on co-occurrence matrices., 1990, 51(1): 70-86.
[41] 毋媛媛, 刁智华, 王会丹, 赵明珍, 魏伟. 作物病害图像形状特征提取研究. 农机化研究, 2015, 37(1): 64-67.
Wu Y Y, Diao Z H, Wang H D, Zhao M Z, Wei W. Research on shape feature extraction of crop disease image., 2015, 37(1): 64-67. (in Chinese)
Recognition Algorithm Based on Convolutional Neural Network
LIU Tingting, WANG Ting, HU Lin*
(,,;*,:)
【Objective】Rice sheath blight is one of the three major diseases in rice production.The convolutional neural network which stands out for automatic identification of rice shealth blight can compensate for the lack of human identification. To solve this problem and prevent diseases deterioration, accurate identification of diseases types is of great significance.【Method】The convolutional neural network method was used to recognize rice sheath blight and compared with the recognition method based on support vector machine.【Result】The convolutional neural network method showed the recognition rate of 97%, better than that of support vector machine(95%).【Conclusion】The application of convolutional neural network to the identification of rice sheath blight is feasible and makes up for the lack of artificial recognition. The model trained by this algorithm has great recognition performance.
;convolutional neural network;classification and recognition
10.16819/j.1001-7216.2019.8051
S435.111.4+2; TB115.2
A
1001-7216(2019)01-0090-05
2018-04-23;
2018-10-16。
中国农业科学院基本科研业务费项目(Y2017LM07);中国农业科学院农业信息研究所基本科研业务费项目(JBYW-AII-2017-32)。