张善文,张传雷,丁 军
基于改进深度置信网络的大棚冬枣病虫害预测模型
张善文,张传雷※,丁 军
(西京学院信息工程学院,西安 710123)
导致冬枣病虫害发生的原因很多而且很复杂,利用传统的数学方法和神经网络(neural network, NN)很难建立正确的病虫害预测模型。由于典型的深度置信网络(deep belief network, DBN)的各层之间缺乏有监督训练,使得网络误差逐层向上传递,降低了预测模型的预测率。针对这些问题,引入冬枣病虫害的先验信息,提出一种基于环境信息和改进DBN的冬枣病虫害预测模型。在该模型中,通过无监督训练和有监督微调从冬枣生长的环境信息序列中获取可表征冬枣病虫害发生的深层特征的隐层参数,并形成新的特征集,然后在预测模型的顶层通过一个后向传播神经网络(back propagation neural network, BPNN)进行病虫害预测。从2014—2017年的4 a时间内,利用农业物联网传感器采集30个大棚冬枣常见的2种虫害和3种病害发生的环境信息序列6 000多条,由此验证所提出的预测模型,平均预测正确率高达84.05%。与基于强模糊支持向量机、改进型NN和BPNN的3种病虫害预测模型进行了试验比较,预测正确率提高了20多个百分点。试验结果表明,该模型极大提高了大棚冬枣病虫害的预测正确率。该研究可为大棚冬枣病虫害预测提供技术参考。
病害;预测;模型;冬枣生长环境信息;虫害;深度置信网络;改进深度置信网络
近年来,陕西省大荔县大棚冬枣病虫害发生频繁,常见危害较大的病虫害有20多种。对近5 a来(2012-2016)大荔大棚冬枣病虫害发生趋势的调查研究表明,冬枣病虫害发生、发展和流行与其生长的大棚内外环境信息紧密相关[1]。研究冬枣病虫害发生规律和了解与其有关的气候、气象、地域、土壤等自然环境信息,对冬枣病虫害预防具有一定的参考价值[2]。近年来,模式识别、专家系统和人工神经网络(neural network, NN)被广泛应用于作物病虫害预测预报中,并取得了成功[3-6]。姚卫平[7]在逐步回归分析的基础上建立了一个贵池区小麦赤霉病发生级别中期预测模型,预测正确率高达88%以上。李丽等[8]利用日照时数、最低气温、平均气温、降雨量等信息,构建了基于径向基NN的苹果病虫害发生等级预测模型,该模型能够预测苹果20余种常见病虫害。杨志民等[9]利用宁波市1995—2007年的稻瘟病气象数据,构建了基于强模糊支持向量机(support vector machines, SVM)的稻瘟病气象预警模型。杨志民等[9]利用雨日数、降雨量、平均湿度、平均温度、光照指标等环境信息,建立了一种基于NN的作物病害预警系统。宋启堃等[10]根据1982—2010年的黔南州统计的作物病情、虫情数据和气象数据,开发了一套黔南州主要作物病虫害监测预警专家系统。Sannakki等[11]利用改进的最近邻方法和前馈神经网络以及气候、湿度和温度等环境信息预测葡萄病害发生,为果农提供了病害信息。Shi[12]以小麦纹枯病为预测对象,提出了一种基于径向基函数神经网络(radical basis function neural network, RBFNN)的植物病害预测模型,仿真试验表明该模型对植物病害中短期预测是有效可行的。辜丽川等[13]提出了一种基于支持向量回归和动态特征选择的作物病害预测方法,并应用于酥梨黑星病预测。近年来,物联网技术的发展为作物病虫害预测研究带来了机遇[14-15]。陈光绒等[16]设计了一种基于物联网的作物病虫害自动预测系统。已有的作物病虫害预测系统和模型为病虫害防治提供了科学依据[17-18]。但由于农作物的生产环境是一个开放、复杂的生态系统,而且病虫害的发生和发展与温度、湿度、光照等很多环境信息紧密相关,而且这些环境信息是动态不断变化的。因此,在作物病虫害预测中需要结合病虫害发生的特点,研究动态、开放、实用性高的作物病虫害预测模型。
目前深度学习是机器学习中较为热门的研究领域[19-21]。与很多机器学习方法相比[22-24],深度学习能够从复杂图像和大量无标签复杂数据中自动学习有效的分类特征,具有较强的数据分类识别和数据预测能力,并且在很多复杂的、具有内在表现特征学习方面取得了成功应用[25-26]。特别在植物物种识别[27-28]和植物病害检测[29]中取得了较高的识别率。深度置信网络(deep belief network, DBN)是一种应用广泛的深度学习模型[30-31],已经被成功应用于身份识别[32]、交通拥堵预测[33]、用户投诉预测[34]、在线视频热度预测[35]等很多实际问题。虽然DBN可以通过有监督学习方法对模型中的权值进行微调,但DBN本质上属于无监督学习网络,因为DBN没有利用样本类别的先验信息,学习到的特征与具体的预测任务无关,所以得到的预测率不高。Larochelle等[36]将类别标号信息引入到限制波尔兹曼机(restricted boltzmann machines, RBM)中,增加DBN的监督性能。丁军等[37]在学习过程中通过约束特征向量之间的相似性增加网络的监督性。由于作物病虫害预测的复杂性,目前还鲜有利用深度学习和与作物病虫害发生相关的环境信息预测病虫害的综合应用实例报道。针对大棚冬枣病虫害预测问题,本文提出了一种基于改进深度置信网络的大棚冬枣病虫害预测模型。该模型充分利用了作物病虫害的先验信息,能够从复杂的冬枣生长环境信息中预测病虫害发生,以期为有效防治病虫害提供技术指导。
在陕西省大荔县20多万hm2的冬枣种植基地建立了大棚农业物联网工作站,利用各种传感器和视频设备从30个大棚中采集与冬枣的常见病虫害发生相关的环境信息,建立一个病虫害信息数据库。采集到的大棚冬枣生长的环境信息主要包括:土壤信息(地域、土壤温度、相对湿度、土壤水分、土壤盐分、土壤是否连种、土壤pH值以及微生物含量等)、气象信息(季节、是否雨季、空气温度、空气湿度、光照强度、光合有效辐射、降雨量、下雨天、气压、风速、风向、二氧化碳浓度等)和病虫害信息(农药使用量、病虫害类型、病虫害等级)。针对冬枣常见的2种虫害(食芽象甲和红蜘蛛)和3种病害(枣锈病、枣炭疽病、黑点病),从2014—2017年期间的2—6月,在病虫害发生前和发生初期,每天从 7:00—17:00间隔1小时采集1次共采集10次环境信息数据,将采集到的数据进行标准化和归一化预处理[9,1-14],再按照时间顺序堆叠为冬枣生长的环境信息序列共6000条,用于病虫害预测研究。
深度置信网络DBN由多层无监督的限制性玻尔兹曼机(restricted boltzmann machine, RBM)和1个反向传播神经网络(back propagation neural network, BPNN)组成[31-35],其基本结构如图1所示。
在图1中,每个RBM包含可视层、隐含层和输出层。DBN模型的基本过程描述为:首先将预处理后的原始数据输入第一个RBM开始进行无监督训练,确定其权重及偏置,底层RBM的输出作为下一层RBM的输入,训练下一个RBM,依次重复训练所有的RBM,反复训练多次,实现模型参数的初始化;再通过前向传播在最顶层加上标签层,进行无监督学习,确定模型参数后,使用反向传播将误差自顶向下传播至每层RBM,由自下而上反馈学习方法调整所有RBM的模型参数,使DBN能够学习复杂数据内在的规律;最后,利用训练好的网络进行数据预测。
图1 深度置信网络基本结构
训练DBN包括无监督预训练和有监督微调2个过程。在训练过程中,以重构误差函数作为目标函数,对RBM逐层进行训练;在微调过程中,利用带标签的训练样本训练分类器,将已经调整好的参数作为微调的初始值,利用随机梯度下降法通过最大化对数似然函数的方式学习得到模型中的参数,由此提取样本较精细的特征。
在图1中,上一层RBM经过学习得到的特征输出作为下一层的输入,使每层能更好地抽象出上一层的特征,逐层提取深度特征,并且各层独立地对参数进行学习。第一层RBM以原始输入数据0训练,将其映射到特征空间0,重构后的特征1尽可能多地保留原数据特征信息,且保留权值;再将1输入第二层RBM进行训练,得到第二层重构后的特征空间1,RBM的每一层输出都是特征的重新选择。在自下向上的过程中,从原始数据中逐渐提取到更抽象的特征,并在最后一层RBM后设置一个BP网络分类器,接收最后一层RBM得到的输出特征变量,有监督地训练网络权值参数。顶层的BP网络由输入层、隐含层和输出层组成,用于冬枣病虫害预测。
注:表示网络权值,表示待引入的先验信息,RBM1、RBM2和RBM3为三层限制波尔兹曼机。
待预测病虫害的环境信息向量与数据库中往年同一天(或同一时期)病虫害发生的环境信息之间的相似度定义为余弦距离。由多种病虫害和多条数据库中的环境信息之间的余弦距离构建相似度矩阵,再对该矩阵进行奇异值分解,构造与式(1)类似的能量函数
加入判别信息后的RBM可以看作由两部分混合而成,一部分由输入数据生成,另一部分由引入的判决信息生成。两部分通过共享隐变量和权值绑定操作进行融合[36-37]。
模型初步训练完后,利用BP算法对网络参数进行微调,使损失函数最小化。其损失函数表示为
在BP网络中,隐含层的神经元的输出
输出神经元的输出为,
在冬枣病虫害预测问题中,需要提供带标签的学习样本数据集对模型进行训练。待分类器通过学习具有分类能力后才能利用新输入的病虫害信息数据预测病虫害发生的概率。图3为基于MDBN的冬枣病虫害识别模型的流程图。
图3 基于改进深度置信网络的大棚冬枣病虫害预测模型
主要过程描述如下:
1)数据采集和预处理采集与冬枣病虫害发生相关的环境信息,包括气象信息(气温、日照、湿度等)、土壤信息(田地连种和施肥情况、含水量、土壤重金属等)和生物学信息(根系吸水能力、叶面等)、农业基础措施信息等组成原始数据集;
2)根据病虫害发生规律结合当地历史数据资料,进行综合分析,建立与冬枣病虫害发生相关的环境信息数据库,然后对采集到的数据进行归一化预处理,再划分为训练数据集和测试数据集;
3)构建MDBN 采用试验方法对DBN模型进行最优化设置,包括输入层结点的个数、隐含层结点的个数和RBM隐含层的层数等;
4)构造MDBN的冬枣病虫害预测模型利用训练数据训练DBN模型。为了加速训练过程,计算实际输出和目标输出的误差,利用与模型权重相关的函数表示该误差;再利用共轭梯度算法调整权重矩阵;得到误差函数达到最小的网络权重矩阵;
5)测试阶段将测试数据输入到改进的DBN预测模型中,计算冬枣病虫害的预测结果;
由于本文所采用的数据库中的样本都是针对2种虫害和3种病害发生和发生期间的环境信息序列,预测某种病虫害发生的预测结果只有2种:病虫害发生和病虫害不发生,所以冬枣病虫害预测的正确性指,预测到病虫害发生,而且病虫害的确发生了。则预测正确率表示为
采用均方根误差(root mean square error, RMSE)评价模型性能与标准值之间的误差以及一致性,计算公式如下
因为错误预测的样本数等于总样本数减正确预测的样本数,故用预测率与RMSE评价指标所反映的情况一致,且计算预测率的过程中去除了总样本数的影响,可以方便使用不同的方法进行评估和比较。
2014—2017年对大棚冬枣2种虫害和3种病害进行病虫害预测试验,并与现有的3种作物病虫害预测方法进行试验比较:基于强模糊支持向量机(SFSVM)的[4]、基于改进型神经网的(INN)[5]和基于BP神经网络的(back propagation neural network, BPNN)[16]。采用深度学习工具箱中的DBN结构(https://github.com/rasmusbergpalm/ DeepLearn Toolbox)构建MDBN。试验硬件环境为:内存32 G,CPU Intel(R) Core(TM) i7—4790 8*3.60 GHZ,GPU GeForce GTX Titan X。
将RBM层数设置为2、3和4,隐含层的结点个数设置为4、8、12、16和20。训练每个RBM时参数设置:学习率为1,分组训练为32,反向传播微调时学习率为1,动量为0.5。在试验中,寻找预测率最高时对应的输入层结点数和隐含层结点数;然后增加新的隐含层,判断新的隐含层中结点数的变化对预测效果的影响,从而确定最佳结点数,同时也确定了隐含层的层数。经过多次试验得出预测率较好的DBN网络隐含层神经元设为200,微调循环次数为50。采用十折交叉验证法进行10次试验,即将数据集划分为10份,轮流将其中9份作为训练数据,剩余的1份作为测试数据。训练集用于进行网络模型的构建、参数调整和训练;测试集用于进行网络模型预测率的测试。反复训练得到的最佳参数为:DBN模型的层数为3,每层节点数为20(20维环境信息向量),最后一层的神经元数为5(5种病虫害),迭代次数为50,学习速率为0.001,在微调阶段的学习速率改为0.1。
3.2试验结果
本文采用正确预测率表示各个预测方法的预测结果。表1中给出了本文方法和其他3种方法的预测结果。从表1可以看出,基于改进DBN的冬枣病虫害预测模型的预测精度比其他的预测模型有了很大的提升,其主要原因是训练数据集包含了更多与病虫害发生相关的生长环境信息数据,因此预测模型在处理测试集数据时的正确率较高。
表1 基于不同方法的5种大棚冬枣病虫害的预测正确率和方差
由表1可知,3个传统方法(SFSVM、INN和BPNN)对5种大棚冬枣病虫害的最高正确预测率分别为61.24%、61.54%和65.13%,平均预测正确率分别为55.92%、54.85%和63.12%,而本文模型对5种病虫害的最低正确预测率为81.64%,平均预测正确率为84.05%,比3种传统方法的平均预测正确率分别高28.13、29.2和20.93个百分点(均提高了20多个百分点)。可以看出,本文提出的预测模型明显优于其他方法。主要原因是基于改进DBN的病虫害预报模型从冬枣生长的环境信息中自动学习到的特征能够很好地表达病虫害发生与冬枣生长的自然环境信息因素之间的本质联系,由此得到较高的预报正确度,同时也充分表明改进DBN模型在基于农业物联网的大数据挖掘中能够表现良好的特征学习性能。在构建冬枣病虫害预测模型中,若隐含层的结点数过少,则可能出现模型失效;若隐含层的结点过多,虽然能够表现出更加强大的预测能力,但可能出现过拟合现象。所以,在模型性能优化过程中,根据不同的数据集、不同的应用领域构建出不同隐含层数的DBN模型,采用试验方法通过改变隐含层数和各个隐含层的结点数优化模型,确定DBN模型的最优结构。训练过程中,若同时进行整个网络所有层的训练,可能导致时间复杂度过高,所以采用贪婪逐层学习算法进行训练,即将完整的改进DBN模型进行分层学习,每一层进行无监督学习,所有模型的网络层学习完后,再对整个改进DBN模型进行有监督学习微调。
尽管深度置信网络的训练速度较快,但是由于在各层之间缺乏有监督训练,使得网络误差逐层向上传递,影响了网络的预测效果。针对冬枣病虫害预测问题,提出了一种改进深度置信网络模型。与现有的深度置信网络的不同之处在于,该模型引入了冬枣病虫害的环境先验信息,通过先验信息和当前信息之间的约束特征向量的相似性,增加预测模型的监督性和预测能力。利用该模型能够自动从复杂的环境信息序列中学习到高层的非线性特征,对5种病虫害的最低正确预测率为81.64%,平均预测正确率为84.05%,比3种传统方法的平均预测正确率分别高28.13、29.2和20.93个百分点。试验结果表明本文提出的病虫害预测模型的有效性,也从侧面表明了深度学习在农业大数据分析领域的可行性。下一步研究重点为将DBN模型每层的各个神经元数设置为不同值,利用与病虫害发生相关的信息对病虫害模型进行多分类预测。
[1] 刘昭武,田世芹,孙卫卫. 沾化冬枣常见的气象灾害及其防御措施[J]. 北方果树,2015(6):25-27. Liu Zhaowu, Tian Shiqin, Sun Weiwei. Common meteorological disasters and their defensive measures in winter jujube of Zhanhua[J]. North Fruit Tree, 2015(6): 25-27. (in Chinese with English abstract)
[2] 李新良,秦玉玲. 枣树主要病虫害的防治措施[J]. 现代园艺,2016(13):147-148.Li Xinliang, Qin Yuling. Control measures of main diseases and insect pests of jujube trees[J]. Modern Horticulture, 2016(13): 147-148. (in Chinese with English abstract)
[3] Anuradha, Kuldeep Kaswan, Sugandha Singh. Two stage classification model for crop disease prediction[J]. International Journal of Computer Science and Mobile Computing, 2015, 4(6): 254-259.
[4] 袁昌洪,刘文军,王世华,等. 小麦赤霉病流行程度的农业气象动态预测模型[J]. 安徽农业科学,2009,37(1): 204-206. Yuan Changhong, Liu Wenjun, Wang Shihua, et al. Agrometeorological dynamic forecasting models for epidemic degree of fusariumgr a minearum[J]. Journal of Anhui Agri Sci, 2009, 37(1): 204-206. (in Chinese with English abstract)
[5] 徐云,陈爱玉,洪冠中,等. 南通地区小麦赤霉病发生潜势气象预报模型的建立及检验[J]. 江苏农业科学,2013,41(8):144-145. Xu Yun, Chen Aiyu, Hong Guanzhong, et al. Establishment and test of a potential weather forecast model for wheat scab in Nantong region[J]. Jiangsu Agricultural Sciences, 2013, 41(8): 144-145. (in Chinese with English abstract)
[6] 吕昭智,沈佐锐,程登发,等. 现代信息技术在害虫种群密度监测中的应用[J]. 农业工程学报,2005,21(12): 112-115.Lü Zhaozhi, Shen Zuorui, Cheng Dengfa, et al. Application of information technologies in monitoring the population density of pests[J]. Transactions of the Chinese Society of Agricultural Engineering (Transactions of the CSAE), 2005, 21(12): 112—115. (in Chinese with English abstract)
[7] 姚卫平. 贵池区小麦赤霉病发病程度中期预测模型[J]. 基层农技推广,2016,4(3):20-24.Yao Weiping. Mid-season prediction model of wheat scab degree in Guichi area[J]. Primary Agricultural Technology Extension, 2016, 4(3): 20-24. (in Chinese with English abstract)
[8] 李丽,李道亮,周志坚,等. 径向基函数网络与WebGIS融合的苹果病虫害预测[J]. 农业机械学报,2008,39(3):116-119. Li Li, Li Daoliang, Zhou Zhijian, et al. Forecast of disease and pest in apple orchards based on fusion of radial basis function neural network and WebGIS[J]. Transactions of the Chinese Society for Agricultural Machinery, 2008, 39(3): 116-119. (in Chinese with English abstract)
[9] 杨志民,梁静,刘广利. 强模糊支持向量机在稻瘟病气象预警中的应用[J]. 中国农业大学学报,2010,15(3): 122-128. Yang Zhimin, Liang Jing, Liu Guangli. Application of strong fuzzy support vector machine on weather early warning of rice blast[J]. Journal of Chinese Agricultural University, 2010, 15(3): 122-128. (in Chinese with English abstract)
[10] 宋启堃,郑松,宋彦棠. 黔南州主要作物病虫害监测预警专家系统的构建与实现[J]. 云南地理环境研究,2011,23(1):34-37. Song Qikun, Zheng Song, Song Yantang. The construction and realization of the Qiannan main plant diseases and insects monitoring warning expert system[J]. Yunnan Geographic Environment Research, 2011, 23(1): 34-37. (in Chinese with English abstract)
[11] Sannakki S, Rajpurohit V S, Sumira F, et al. A neural network approach for disease forecasting in grapes using weather parameters[C]//IEEE International Conference on Computing, 2013: 1-5.
[12] Shi Mingwang. Based on time series and RBF network plant disease forecasting[J]. Procedia Engineering, 2011(15): 2384-2387.
[13] 辜丽川,钟金琴,张友华,等. 一种基于支持向量回归和动态特征选择的梨黑星病预测方法[J]. 计算机科学,2009,36(7):215-217.Gu Lichuan, Zhong Jinqin, Zhang Youhua, et al. Method of predecison on pear scab based on SVM and dynamical feature selection[J]. Computer Science, 2009, 36(7): 215-217. (in Chinese with English abstract)
[14] 王翔宇,温皓杰,李鑫星,等. 农业主要病害检测与预警技术研究进展分析[J]. 农业机械学报,2016,47(9): 266-277.Wang Xiangyu, Wen Haojie, Li Xinxing, et al. Research progress analysis of mainly agricultural disease detection and early warning technologies[J]. Transactions of the Chinese Society for Agricultural Machinery, 2016, 47(9): 266-277. (in Chinese with English abstract)
[15] 王文山,柳平增,臧官胜,等. 基于物联网的果园环境信息监测系统的设计[J]. 山东农业大学学报:自然科学版,2012,43(2):239-243. Wang Wenshan, Liu Pingzeng, Zang Guansheng, et al. Design of environment information monitoring system for orchard based on the internet of things[J]. Journal of Shandong Agricultural University: Natural Science, 2012, 43(2): 239-243. (in Chinese with English abstract)
[16] 陈光绒,李小琴. 基于物联网技术的作物病虫害自动测报系统[J]. 江苏农业科学,2015,43(4):406-410. Chen Guangrong, Li Xiaoqin. Automatic measuring and reporting system of crop diseases and insect pests based on Internet of things[J]. Jiangsu Agricultural Science, 2015, 43(4): 406-410. (in Chinese with English abstract)
[17] Yun H K, Yoo S J, Gu Y H, et al. Crop pests prediction method using regression and machine learning technology: Survey[J]. IERI Procedia, 2014, 6(4): 52-56.
[18] 陈涛,高必梵,艾菊梅. 基于BP神经网络的作物虫害预测系统的研究[J]. 数字技术与应用,2015(1):91-93. Chen Tao, Gao Bifan, Ai Jumei. Prediction system research of crop pests based on BP neural network[J]. Digital Technology and Application, 2015(1): 91-93. (in Chinese with English abstract)
[19] LeCun Y, Bengio Y, Hinton G. Deep learning[J]. Nature, 2015, 521(7553): 436-444.
[20] Schmidhuber J. Deep Learning in neural networks: An overview[J]. Neural Networks the Official Journal of the International Neural Network Society,2014(61):85-117.
[21] 尹宝才,王文通,王立春. 深度学习研究综述[J]. 北京工业大学学报,2015,41(1):48-59. Yin Baocai, Wang Wentong, Wang Lichun. Review of deep learning[J]. Journal of Beijing University of Technology, 2015, 41(1): 48-59. (in Chinese with English abstract)
[22] Li Shuai, You Zhuhong, Guo Hongliang, et al. Inverse-free extreme learning machine with optimal information updating[J]. IEEE Transactions on Cybernetics, 2015, 1(99): 1-7.
[23] You Zhuhong, Li Xiao, Chan Keith C C. An improved sequence-based prediction protocol for protein-protein interactions using amino acids substitution matrix and rotation forest ensemble classifiers[J]. Neurocomputing, 2016, 228(8): 277-282.
[24] You ZhuHong, Zhou Mengchu, Luo Xin, et al. Highly efficient framework for predicting interactions between proteins[J]. IEEE Transactions on Cybernetics, 2017, 47(3): 721-733.
[25] Wang Yanbin, You Zhuhong, Li Xiao, et al. Predicting protein-protein interactions from protein sequences by stacked sparse auto-encoder deep neural network[J]. Molecular BioSystems, 2017, 13(7): 1336-1344.
[26] Wang Lei, You Zhuhong, Chen Xing, et al. Computational methods for the prediction of drug-target interactions from drug fingerprints and protein sequences by stacked auto- encoder deep neural network[J]. International Symposium on Bioinformatics Research and Applications (ISBRA). Honolulu, USA, 2017: 46-58.
[27] Sue Han Lee, Chee Seng Chan, Simon Joseph Mayo, et al. How deep learning extracts and learns leaf features for plant classification[J]. Pattern Recognition, 2017(71): 1-13.
[28] Jeon W S, Rhee S Y. Plant leaf recognition using a convolution neural network[J]. International Journal of Fuzzy Logic & Intelligent Systems, 2017, 17(1): 26-34.
[29] Sladojevic S, Arsenovic M, Anderla A, et al. Deep neural networks based recognition of plant diseases by leaf image classification[J]. Computational Intelligence and Neuroscience, 2016(6): 1-11.
[30] Zhao Zhiqiang, Jiao Licheng, Zhao Jiaqi, et al. Discriminant deep belief network for high-resolution SAR image classification[J]. Pattern Recognition, 2017(61): 686-701.
[31] Zhou Shusen, Chen Qingcai, Wang Xiaolong. Discriminative deep belief networks for image classification[C]// IEEE 17th International Conference on Image Processing, Hong Kong, 2010: 1561-1564.
[32] 张媛媛,霍静,杨婉琪,等. 深度置信网络的二代身份证异构人脸核实算法[J]. 智能系统学报,2015,10(2): 193-200. Zhang Yuanyuan, Huo Jing, Yang Wanqi, et al. A deep belief network-based heterogeneous face verification method for the second-generation identity card[J]. CAAI Transactions on Intelligent Systems, 2015, 10(2): 193-200. (in Chinese with English abstract)
[33] 谭娟,王胜春. 基于深度学习的交通拥堵预测模型研究[J]. 计算机应用研究,2015,32(10):2951-2954. Tan Juan, Wang Shengchun. Research prediction model for traffic congestion based on deep learning[J]. Application Research of Computers, 2015, 32(10): 2951-2954. (in Chinese with English abstract)
[34] 周文杰,严建峰,杨璐. 基于深度学习的用户投诉预测模型研究[J]. 计算机应用研究,2017(5):1428-1432. Zhou Wenjie, Yan Jianfeng, Yang Lu. Research on prediction model of complaint based on deep learning[J]. Application Research of Computers, 2017(5): 1428-1432. (in Chinese with English abstract)
[35] 陈亮,张俊池,王娜,等. 基于深度置信网络的在线视频热度预测[J]. 计算机工程与应用,2017,53(9):162-169. Chen Liang, Zhang Junchi, Wang Na, et al. Deep belief networks based popularity prediction for online video services[J]. Computer Engineering and Applications, 2017, 53(9): 162-169. (in Chinese with English abstract)
[36] Larochelle H, Bengio Y. Classification using discriminative restricted Boltzmann machines[C]//International Conference on Machine Learning, New York, 2008: 536-543.
[37] 丁军,刘宏伟,陈渤,等. 相似性约束的深度置信网络在SAR图像目标识别的应用[J]. 电子信息学报,2016,38(1):97-103.Ding Jun, Liu Hongwei, Chen Bo, et al. Similarity constrained deep belief networks with application to SAR image target recognition[J]. Journal of Electronics & Information Technology, 2016, 38(1): 97-103. (in Chinese with English abstract)
张善文,张传雷,丁 军. 基于改进深度置信网络的大棚冬枣病虫害预测模型[J]. 农业工程学报,2017,33(19):202-208. doi:10.11975/j.issn.1002-6819.2017.19.026 http://www.tcsae.org
Zhang Shanwen, Zhang Chuanlei, Ding Jun. Disease and insect pest forecasting model of greenhouse winter jujube based on modified deep belief network[J]. Transactions of the Chinese Society of Agricultural Engineering (Transactions of the CSAE), 2017, 33(19): 202-208. (in Chinese with English abstract) doi:10.11975/j.issn.1002-6819.2017.19.026 http://www.tcsae.org
Disease and insect pest forecasting model of greenhouse winter jujube based on modified deep belief network
Zhang Shanwen, Zhang Chuanlei※, Ding Jun
(710123,)
The diseases and insect pests of greenhouse winter jujube are one of the main factors that restrict the yield and quality of winter jujube. The timely prediction of the jujube diseases and insect pests is the prerequisite to prevent and control diseases and insect pests. It is difficult to establish an accurate forecasting model of diseases and insect pests using traditional mathematical method and neural network (NN) because of many complex factors that lead to the occurrence of diseases and insect pests of winter jujube, including the meteorological conditions (such as temperature, sunlight, humidity), soil conditions (such as moisture, soil heavy metals), and biological characteristics (such as roots, leaves). During the process of forecasting model training, due to the defects of artificial design features and the unpredictable complexity in the design process, the accuracy of disease and insect pest prediction and the efficiency of the design features can’t have a lot of space of ascension. It is possible to automatically forecast diseases and insect pests of winter jujube with the development of agricultural IOT (Internet of Things), smart camera equipment, high performance and large capacity data storage, computer and network technology as well as the massive complex data processing technology. Faced with the problem of complexity and uncertainty of diseases and insect pests prediction of winter jujube, a forecasting model of winter jujube diseases and insect pests is proposed based on the modified deep belief network (DBN). Due to the merits of the DBN, the prediction model of disease and insect pest based on modified DBN can not only utilize 20 kinds of environmental information data, but also introduce the similarity between the prior information and the constraints of the current information. The modified DBN consists of a visible input layer, several hidden layers, and an output layer. The visible layer inputs the data, whose range has been normalized into [0,1]; the hidden layers are invisible, in which binary values are used, and activated by the sigmoid kernel function. Via simulating neural connecting structure of human brain and introducing the supervised information by restricting the similarity between feature vectors in the learning process, the proposed model can automatically learn senior nonlinear hierarchical combination features from the environmental information of winter jujube growth, which is suitable for data classification and importing high-level features into traditional BP (back propagation) neural network classifier to improve the disease forecasting precision. The disease and insect pest prediction is conducted by BP network in the top level of DBN. Experiments on the actual database of disease and insect pest of greenhouse winter jujube are performed. After a large number of training samples and training times, the prediction accuracy rate of diseases and insect pests is greatly improved. The accuracy rate of forecasting result is over than 84%. The experimental results show that the proposed model has provided a technical basis and support for the automatic crop disease forecasting with environmental information obtained in fields, and has great application prospect in disease and insect pest prediction of greenhouse winter jujube. As there are many factors affecting crop diseases, practically, some factors vary with the time, how to use the environmental information of crop growth to build a powerful and practical crop disease forecasting method still needs further study.
diseases; forecasting; models;environmental information of winter jujube growth; insect pests; deep belief network (DBN); modified DBN
10.11975/j.issn.1002-6819.2017.19.026
S436.65
A
1002-6819(2017)-19-0202-07
2017-06-26
2017-09-16
国家自然科学基金项目(61473237);陕西省自然科学基础研究计划(2016GY-141)
张善文,汉族,陕西西安人,博士,教授,博士生导师。研究领域为模式识别及其应用。Email:wjdw716@163.com.
※通信作者:张传雷,汉族,山东淄博人,博士,副教授。研究领域为模式识别及其应用。Email:a17647@gmail.com.