张友为 王鑫鑫 范晓飞
doi:10.15889/j.issn.1002-1302.2024.10.002
摘要:近年来,病虫害严重影响了农作物的生长和产量,在当前人口剧增、粮食短缺的背景下,解决这一问题具有急迫性和重要性。因此,深度学习凭借学习能力强和高准确性等优势,逐渐成为农业病虫害检测技术的研究热点之一。深度学习结合多种技术可以更加高效地帮助农民检测病虫害,从而及时采取措施对农作物病虫害进行防治,提高农作物产量和质量。本文以玉米和番茄为研究对象,针对农作物病虫害检测技术对病虫害检测研究中常用的深度学习模型进行了概述,并分别对深度学习与传感器技术和遥感技术结合的病虫害检测系统和不同应用场景上深度学习结合不同技术对病虫害检测起到的应用效果进行阐述;同时总结了玉米和番茄的常见害虫种类、害虫体型特点和啃食特点。最后,讨论了深度学习技术在实际应用中存在的问题和未来深度学习技术的发展方向。深度学习与先进技术的结合将为农民和农作物专家提供有效的工具,帮助他们及时发现和应对病虫害问题,提高农作物的产量和质量。
关键词:深度学习;玉米;番茄;病虫害检测;传感器技术;遥感技术
中图分类号:S126;S127 文献标志码:A
文章编号:1002-1302(2024)10-0010-11
收稿日期:2023-08-09
基金项目:国家自然科学基金面上项目(编号:32072572);河北省高层次人才资助项目(编号:E2019100006);河北省重点研发计划(编号:20327403D);河北农业大学引进人才科研专项(编号:YJ201847)。
作者简介:张友为(2000—),男,河北沧州人,硕士研究生,主要从事深度学习研究。E-mail:1511313883@qq.com。
通信作者:范晓飞,博士,教授,从事智慧农业研究。E-mail:fanxiaofei@hebau.edu.cn。
农业作为人类社会的基本产业之一,对于人类的粮食安全和经济发展具有重要意义。然而,病虫害是农作物生长过程中的一个严重问题,会影响农作物的产量和质量。因此,如何快速、准确地检测病虫害,并及时采取有效的防治措施,是农业生产中亟待解决的问题。在众多检测方法中,基于深度学习的病虫害检测方法,通过利用大量的数据和深度神经网络的强大学习能力,并且结合其他技术,可以快速、准确地检测病虫害,为农业生产提供了一种高效的解决方案。
近年来,前人已经在病虫害检测领域进行了大量的尝试和实践,取得了一定的进展。例如,利用深度学习技术在图像处理领域的自动识别,能够高精度地检测病虫害[1-3]。另外,针对一些虫害检测,基于深度学习的声音识别技术可以通过捕捉声音信号[4]实现非接触式的检测。应用传感器技术进行病害检测也可以达到较为理想的效果[5-7]。使用先进的传感器技术来测量现场的各种参数,即通过采集环境中的气象、土壤等多种数据,进行综合分析和诊断。而对于一些特殊的病害,红外热成像技术可以根据病害的温度等特性实现病害的检测[8-9]。深度学习技术结合不同设备对病虫害进行检测可以起到意想不到的效果。例如,基于光谱成像技术的病虫害检测方法[10]已被用于检测植物中由各种因素引起的疾病和胁迫[11],可以结合更多的硬件设施,进一步开发这类技术,有望为实地条件下的大规模实时病虫害监测创造一个实用工具[12]。与多种传感器结合的基于深度学习的病虫害检测技术,可以实现大量数据的采集,从而获取需要的信息以用于对深度学习的输入[13-15]。对于一些高难度拍摄的农业图像,可以借助无人机协同拍摄来采集图像[16-17]。根据卫星遥感的图像,将特征融合数据作为模型的输入数据,可以为产量预测提供更多的数据支撑[18-19]。
在基于深度学习的病虫害检测领域存在着2个关键问题,即模型设计问题和实时性问题[20]。由于不同作物的病害在形态上存在很大的差异,因此需要针对不同的病虫害选择合适的架构和模型进行训练和优化[21]。实时性问题是指如何在短时间内对病虫害进行准确检测,以便及时采取有效的防治措施[22]。在这方面,深度学习算法可以结合传感器技术,以实现快速准确的检测。在大量的病虫害检测文献研究[23-25]中,主要通过算法改进、优化方法或结合传感器、遥感技术等应对实际检测过程中的一些难题。改进和优化算法和在病害检测方面的应用已经得到了广泛的研究。对于多种病害检测,采用分类模型来检测病虫害可以提高检测效率。对于种类繁多的病虫害数据集而言,其检测就显得比较困难[26]。应用目标检测模型检测病害的研究也较多,该模型有着高精度性能、适用性广泛等优点,但是其训练速度较慢,并且对于小目标或者物体密集的场景检测精度会受影响[27]。
本研究以玉米(Zea mays L.)和番茄(Solanum lycopersicum)作为露天作物和设施作物的代表,对深度学习技术在病虫害检测方面的应用进行研究,并分析深度学习结合不同技术对病害检测的优势,以及玉米和番茄害虫的种类和检测方式。最后,对整个研究工作进行总结和展望。
1 病虫害检测方法
农作物病虫害检测是指利用技术手段对农作物病虫害进行检测和诊断的过程,旨在及时发现和防治病虫害,保障农作物的生产和品质。目前,国内外在病虫害的检测上主要有以下4种方法。
(1)传统目测检验:使用放大镜和显微镜观察害虫,判断种类和数量,但误差大且耗时,工作量大[28]。
(2)生物学检验:利用化学方法对土壤、水体、农作物等进行检测,以判断是否存在农药残留、病原菌等有害物质[29]。该方法对检测人员的专业水平要求较高,耗时长,工作量大。
(3)分子生物学检验:生物学检测是利用生物学特性进行检测,如利用PCR技术检测和诊断病原体[30],具有高灵敏度和特异性,但需要复杂的试验设备和技术,成本较高。
(4)深度学习技术:深度学习技术通过学习样本数据的内在规律和表示层次,来获得需要的信息,对图像和声音等数据的解释有很大帮助[31]。它的最终目标是让机器能拥有类似人脑的分析学习能力,能够自动识别文字、图像和声音等数据[32]。基于深度学习的植物病害检测模型具有精度高、普适性好和训练效率高等特点。
这些技术的优缺点各不相同,近年来,基于深度学习的目标检测技术被广泛应用于植物病理学[33-35]。这种技术具有处理速度快、准确性高等优点,适用于大规模农作物病虫害检测。
2 病害检测
2.1 算法改进与优化方式
2.1.1 玉米病害检测算法改进
玉米是常见的露天作物,也是世界上最重要的粮食作物之一,但是玉米在生长过程中经常受到各种病虫害的侵害,这给农民带来了巨大的经济损失。
针对玉米叶片的病害图像检测,卷积神经网络(CNN)可以通过卷积层和池化层来提取图像的局部特征,从而捕捉到病害区域的细节信息,并且CNN模型在卷积操作中使用了滑动窗口的方式对输入数据进行特征提取,提高了模型对数据的鲁棒性和泛化能力,更易于训练,对图像处理也有出色的表现。例如,Mishra等针对玉米锈病和叶萎病设计的Deep CNN模型平均准确率为98.40%[36]。Waheed等针对玉米病害采用优化密集CNN结构(DenseNet)进行检测,模型的准确率为98.06%[37]。CNN算法可以应用于病害检测系统中,帮助系统处理图像数据,并进行分类、分割等任务。通过调整参数、改变池化组合[38]、使用更深的网络结构、调整主干网络等多种方式对CNN算法进行改进以达到更高模型的准确性和性能。Priyadharshini等提出了一种基于CNN的改进LeNet体系结构,采用梯度下降算法对LeNet深度网络进行训练,对玉米病害进行分类,准确率为97.89%[39]。Li等针对玉米病害提出了一种改进的AlexNet与 Inception-v4结合的算法,AlexNet卷积层被适当调整,并添加了Inception-v4作为主干网络,该算法可以准确地识别玉米叶片病害,准确率达到94.46%,但该模型不能区分具有相似特征的不同病害[40]。
YOLO系列算法速度快、精度高,还具备很好的可扩展性。徐会杰等研究发现,YOLO v3在检测玉米叶片上的较小病斑时,并没有体现出很好的检测效果。他们改变YOLO v3算法感受野等来检测病斑,得到YOLO v3.Corn算法,对玉米病害进行检测,YOLO v3.Corn模型在平均检测精确度上相比YOLO v3和 YOLO v3-tiny分别提高4.03%和8.26%,在对小目标的检测中,精确度比YOLO v3-tiny和YOLO v3分别提高12.86%和7.13%,召回率分别提高18.56%和9.78%[41]。表1中为基于深度学习的玉米病害检测研究。
表1 基于深度学习的玉米病害检测研究
病害采用模型技术特点准确率
锈病和叶萎病[36]Deep CNN网络模型调整超参数和调节GPU系统中的池组合,进一步优化了该模型的参数平均准确率为98.40%
锈病、尾孢叶斑灰叶斑和大斑病[37]DenseNet网络模型采用优化密集卷积神经网络(CNN)结构(DenseNet)进行检测优化后的密度网模型准确率为98.06%
绣病、灰叶斑病、大斑病[39]改进LeNet网络模型通过改变核大小和深度等参数来研究LeNet结构学习模型的准确率为97.89%
黑斑病、普通锈病和大斑病[40]AlexNet与 Inception-v4结合网络模型AlexNet卷积层被适当调整,并添加了Inception-v4作为主干网络准确率达到94.46%
大斑病、小斑病、锈病、草地贪夜蛾卵、草地贪夜蛾幼虫[41]YOLO v3.Corn算法模型改变YOLO v3算法感受野YOLO v3.Corn在平均检测精确度上相比YOLO v3和 YOLO v3-tiny分别提高4.03%和8.26%,在对小目标的检测中,精确度比YOLO v3-tiny和YOLO v3分别提高12.86%和7.13%
2.1.2 番茄病害检测算法改进
番茄是一种常见的设施作物,由于病害的侵扰,产量和品质常常受到影响,因此应该着重进行病虫害预防[42]。传统的病虫害检测方法耗时耗力,而基于深度学习的方法较为实用,在病虫害检测领域得到了广泛应用[8]。
使用CNN模型[43],或者使用经过微调的CNN模型对番茄病害进行检测时[44],不需预处理就具有快速的收敛和良好的训练能力,因此多种CNN模型在检测番茄病害中体现出良好性能[45],可以通过对比试验选取最佳模型,对于评估番茄早疫病的严重程度方面,Prabhakar等通过与其他预先训练过的VGG16、VGG19、GoogLeNet、AlexNet和ResNet50模型相对比,发现ResNet101模型的准确率最高,为94.6%[46]。Kibriya等在公开的Plant Village数据集上训练GoogLeNet和VGG16模型均达到了很好的效果[47]。针对番茄病害的检测,改进和优化深度学习算法模型,使模型在检测多种番茄病害时体现更好的性能,让模型检测病害能够更加高效的完成。例如,刘志勇等改进了LeNet网络结构,在对番茄多种病害分类检测中,得到LeNet-5网络结构检测准确率为95.3%[48]。还可以将优化好的模型集成到自动化测量系统[49]中,让检测效果达到最佳。
YOLO v3在使用深度残差网络提取图像特征时,由于特征提取的最小特征图太大,检测速度降低,对中大尺寸物体的检测效果不好。YOLO v3-tiny对原始网络版本进行压缩,没有残差层,而使用了2个不同尺度的YOLO输出层,提高了小目标检测的检测速度和精度。番茄病害中病斑大多是小目标,检测速度要求高,适应于该检测的基本网络。Wang等采用优化YOLO v3-Tiny算法在深度分离、碎片遮挡和叶片重叠3种情况下得到的平均精度(mAP)分别为98.3%、92.1%和90.2%[50]。他们改善了网络深化过程中的梯度消失现象,实现网络多层特征复用与融合。改变边界框形状也可以提高检测精准度。如果边界框的形状不准确,预测的坐标也可能会存在一定的误差。通过调整边界框的形状,可以使其更加贴合目标番茄,减少预测坐标[51],减少误差,提高模型的精确性和鲁棒性。表2为基于深度学习的番茄病害检测研究。
2.1.3 迁移学习和注意力机制优化方式
当目标领域的数据很少时,模型可能会过度拟合训练数据,从而导致泛化能力降低,无法有效地处理新的数据。同样,当模型在目标领域中过拟合时,也会导致泛化能力降低,无法适应新的数据。遇到数据
表2 基于深度学习的番茄病害检测研究
病害采用模型技术特点准确率
早疫病[46]ResNet101模型与其他预先训练过的VGG16、VGG19、GoogLeNet、AlexNet和ResNet50相对比,ResNet101的准确率最高准确率为94.6%
细菌斑、晚疫病、早疫病[47]GoogLeNet模型和VGG16模型使用公开数据集训练GoogLeNet和VGG16 VGG16的准确率为98%,而GoogLeNet的准确率为99.23%
早疫病、叶霉病、红蜘蛛病[48]改进LeNet-5网络结构模型加入 BN 层、用 PReLU 激活函数并在全连接层采用 Dropout 策略、加入 Inception 结构等多种改进试验检测准确率为95.3%
早疫病、晚疫病、灰叶病、褐斑病、灰霉病、白粉病、卷叶病、粉虱病、番茄潜叶蝇、花叶病[50]优化的YOLO v3-tiny算法模型优化特征提取网络,改善网络深化过程中的梯度消失现象,实现网络多层特征复用与融合。采用扩展数据集和多尺度策略对网络进行训练,得到最优权重模型该方法在深度分离、碎片遮挡和叶片重叠3种情况下得到平均精度分别为98.3%、92.1%和90.2%
稀缺问题、模型过拟合问题等情况,采用迁移学习方法优化模型后,能够提高模型的性能[52]。Sun等提出了基于Inception-v3或Inception-v4模型的迁移学习方法来分类检测玉米病害,并对预先训练后的模型进行微调,达到了很好的效果。深度神经网络训练时,由于网络深度增加,梯度消失的问题会变得越来越严重,深度残差网络(ResNet)通过残差块来解决这个问题[53]。胡文艺等构建了基于SE模块的ResNet深度残差网络模型,并通过迁移学习,得到了平均分类准确率,最高为97.96%[54]。ResNet的参数量较大,需要更多的计算资源才能进行训练和推理。深度可分离卷积具有较少的模型参数量,从而可以在较低的计算资源下完成模型训练和推理。Liu等以MobileNet v2为该骨干网络,采用混合训练和迁移学习相结合的预训练方法,对番茄病害进行检测,能够在光照充足且无遮挡的情况下达到94.13%的F1得分和92.53%的AP[55]。
增加注意力机制可以使模型更加关注图像中重要的区域或特征[56-58],从而提高模型的性能和可解释性。增加注意力机制还可以帮助减少模型参数的数量,从而减少模型的大小和训练时间,降低模型的计算成本。Liu等也提出了一种基于改进的YOLO v4融合三重注意机制(YOLO v4TAM)的番茄病害检测算法,并通过引入焦点损失函数解决了图像中正负样本数量不平衡的问题,其平均检测准确率达到95.2%[59]。还可以改变边界框来提高模型的精准度,改变模型的边界框位置或形状,可以更加准确地定位物体。表3中为采用优化方法的深度学习模型对病害检测的研究。
2.2 结合传感器检测
利用深度学习进行病害检测时,需要大量的数据集来训练模型,但这些数据集可能缺乏真实的场景信息,无法捕捉到病害检测的实际情况。而在使用深度学习技术基础上结合传感器进行病害检测,可以获取实时的农作物生长、环境温度、湿度等数据,从而更加准确地判断农作物的生长状况。结合深度学习技术,可以通过大量的传感器数据训练深度学习模型,实现对病害的自动化识别和定量化测量。深度学习模型可以通过卷积神经网络等算法对传感器数据进行处理和分析,提取出与作物病害相关的特征,实现对不同类型作物病害的精准识别和分析。同时,深度学习模型可以实现对多个物理量数据的协同处理,提高模型的准确率和可靠性。结合传感器进行病害检测的技术已经用于农业生产领域,例如光学成像传感器已被广泛地结合深度学习技术用于作物病害识别[60]。但在结合传感器技术方面也存在不可避免的问题,即数据故障问题和数据隐私问题[61-62],未来研究可致力于解决这2个问题。
2.3 结合遥感技术检测
遥感技术在农业领域已经取得了显著发展并且日趋成熟,有大量的期刊、会议和组织专门研究这一方面[63]。遥感技术可以用于作物产量预测方面,通过整合卫星数据、气候数据、土壤数据等多源数据集来推断出良好的预测[64],为作物产量预测提供了准确性和可靠性[65]。遥感技术可与深度学习技术结合应用于作物病害检测方面,利用遥感技术进行病害检测和预测,能够同时满足快速、准确、有效的要求[66],本文主要综述了结合无人机(UAV)和结合光谱技术2种结合遥感技术的病害检测方式。
2.3.1 结合无人机检测
当今,无人机已经广泛应用于农业领域[67-68]。在病害检测方面,使用无人机结合不同深度学习模型对农作物病害进行检测,可以充分利用无人机获取的遥感图像和视频数据,实现对农作物病害的自动化检测。无人机可以快速覆盖大面积作物田地获取图像数据[69],并且可以在短时间内完成整个作物病害检测过程。例如,Ishengoma等采用了UAV遥感技术,快速高效地捕获了病害叶片[70-71]。Ahmad等使用无人机系统(UAS)和手持图像传感器,于田间获取玉米病害图像对病害进行检测,有效提高了病害检测效率[72]。图1为无人机检测病害系统流程。
在作物病害定量测量方面,深度学习技术可以用于图像分割任务,将图像中的病害部分和健康部分分割开来。结合无人机技术,可以实现对作物群体的遥感图像采集和分割[73],能够提供准确、高通量的植物病害定量测量[74]。同时可以实现对不同时间点和不同生长阶段的作物进行监测和比较,为病害的防治提供更为科学的依据。Wiesner-Hanks等通过无人机拍摄的野外玉米病害图像训练CNN,将图像分割成病变区域和非病变区域,准确率为99.79%[75]。Wu等展示了一个自动化的高通量检测玉米植株的现场图像的系统,他们使用无人机获取高分辨率图像,利用CNN对玉米病害进行检测,获得了95.1%的准确率[76]。但无人机存在电池容量,运行深度学习算法所需的计算能力和高有效载荷等问题限制[77],需要进一步进行研究。
2.3.2 结合光谱技术检测
光谱技术可以通过测量作物叶片表面反射的光谱信号,获取作物叶片的光谱信息,包括波长、强度、反射率等参数。而不同作物病害所引起的叶片变化,会导致叶片光谱信息的变化,例如叶绿素含量、叶片结构、生理状态等,这些变化可以通过光谱数据的分析和处理,实现对作物病害的检测。结合深度学习技术,可以通过大量的光谱数据训练深度学习模型,实现对作物病害的自动化识别和定量化测量。深度学习模型可以通过卷积神经网络等算法对光谱数据进行处理和分析,提取出与作物病害相关的特征,实现对不同类型作物病害的精准识别和分析。目前,光谱技术已经日益成熟,高光谱成像已广泛应用于植物表型研究[78]。高光谱可以在早期检测到病害[79]。例如,周占坤提出了基于NIR高光谱的番茄病害检测方法,将叶霉病分为4个等级,得到其模型总体检测率为92.65%[80]。Brahim等研究利用高光谱成像系统检测早期番茄叶片中过量的氮[81]。基于高光谱图像和深度学习技术相结合还可以估算玉米产量[82]、估算玉米幼苗的冷损伤情况[83-84]、检测种子活力[85]等。但是高光谱数据较为复杂且成本较高[86],目前公开可用的高光谱数据集也较少[87],有待进一步开发。
3 虫害检测
3.1 玉米虫害检测
虫害的侵蚀是导致玉米减产的一个重要原因,它们可能会在不同的生长阶段对玉米造成不同程度的危害,以下是玉米主要的几种虫害。
玉米黏虫(Mythimna separata Walker),别称行军虫,是一种季节性的迁徙害虫[88]。它们通过吸食植物汁液导致玉米叶片变黄、枯萎甚至死亡,是玉米最大的虫害之一。
棉铃虫(Helicoverpa armigera Hübner),体色多变,一般雌成虫黄褐色或灰褐色,雄成虫灰绿色,前翅中横线由肾状斑下斜伸至后缘,末端达环形斑的正下方。棉铃虫主要以幼虫蛀食危害,危害玉米苗、玉米秆、玉米穗等。
二点委夜蛾(Athetis lepigone),成虫体长10~12 mm,翅展20 mm。雌虫体会略大于雄虫。头、胸、腹灰褐色,前翅灰褐色,有暗褐色细点。其主要在幼虫时期危害[89],幼虫咬断玉米根部,包括气生根和主根。受危害的玉米田,轻者玉米植株东倒西歪,严重者造成玉米心叶萎蔫枯死,造成缺苗断垄,玉米田中出现大面积空白地。
小地老虎(Agrotis ypsilon),蛹时期体长18~24 mm,红褐色或暗红褐色。老熟幼虫体长37~47 mm,头宽3.0~3.5 mm。黄褐色至黑褐色,体表粗糙,密布大小颗粒。成虫体长16~23 mm,翅展42~54 mm。前翅黑褐色,亚基线、内横线、外横线及亚缘线均为双条曲线,其翅膀具有再生能力[90]。主要啃食玉米幼苗。
大黑鳃金龟(Holotrichia oblita Faldermann),体长17~21 mm,宽8.4~11.0 mm,长椭圆形,体黑褐色至黑色,具光泽,触角鳃叶状,棒状部3节。其生长受土壤湿度影响[91]。成虫取食寄主的芽、叶和花,或啃食果实。幼虫食害寄主根部幼嫩组织。被害叶呈不规则缺刻或仅残留叶脉,果被害后,果实呈不规则孔洞,易被病害感染变黑变腐。果苗受害损失严重。
黄地老虎(Agrotis segetum Schiffermüller),成虫体长14~19 mm,翅展32~43 mm。全体黄褐色。前翅亚基线及内、中、外横纹不明显;卵半圆形,底平,直径约0.5 mm。多以第1代幼虫危害春播作物的幼苗,常切断幼苗近地面的茎部,使整株死亡,造成缺苗断垄,甚至毁种。
暗黑鳃金龟(Holotrichia parallela),成虫体长16~22 mm,长椭圆形,后方较阔;体黄褐色、栗褐色、黑褐色至黑色,被淡蓝灰色粉状闪光薄层。幼虫栖息在土壤中,取食萌发的种子,造成缺苗断垄;咬断根茎、根系,使植株枯死。
细胸金针虫(Agriotes subrittatus Motschulsky),成虫体长8~9 mm,宽约2.5 mm。体形细长扁平,被黄色细卧毛。金针虫的蛀孔细小,能够蛀入到作物深处进行危害。金针虫除了危害地下块根、块茎外,还可危害寄主的根、茎。
草地贪夜蛾(Spodoptera frugiperda),别称秋黏虫。成虫体长15~20 mm,翅展32~40 mm,前翅灰色至棕色;雄蛾环形纹和肾形纹明显,翅顶角处分别有2个大白斑。草地贪夜蛾幼虫取食作物叶片,导致作物叶片脱落。当害虫较多时,草地贪夜蛾幼虫会咬掉幼苗和小植物的茎。
玉米害虫较为常见,数据容易收集。害虫一般在玉米叶片或玉米秆上寄生,背景相对单一,没有太多复杂的纹理和颜色变化,这都有利于深度学习算法在背景中将害虫区分出来。Ishengoma等提出一个混合CNN模型,用于对草地贪夜蛾侵染玉米叶片的检测。该模型基于一个并行结构,来利用VGG16和Inception-v3这2个单独模型的优点[92]。与现有VGG16、Inception-v3、XceptionNet和ResNet50这4种模型相比,该混合模型减少了16%~44%的训练时间,准确率高达96.98%。
YOLO系列算法是一种典型的目标检测算法,具有良好的检测性能。由于图像中实际情况下的害虫比较小,原YOLO系列算法不能够满足当今农业对害虫检测准确率的要求,因此需要进行改进。Lv等通过线性变换对K-means聚类算法生成的锚点进行优化,提高了锚点与地面实际情况的匹配精度。此外,他们在原YOLO v3网络的第2个残差块中添加2个残差单元,以获取有关底层小目标位置的更多信息,其中一个ResNet单元用于特征金字塔网络结构,以取代2个DBL(Conv+BN+LeakyReLU)结构,增强害虫特征的权重。与原YOLO v3方法相比,该方法的mAP和mRecall分别提高了6.3%和4.61%,能够更好地根据实际情况进行检测[93]。
不仅可以对害虫直接检测,也可以通过对害虫啃食过的叶片进行检测来判断害虫类别。被不同害虫啃食过的叶片具有不同的明显的特征,如形状变化、颜色改变等,这有助于深度学习模型对害虫啃食的痕迹进行准确检测。数据集需要无人机在实际农田中采集。Feng等利用机载无人机结合深度学习技术进行图像采集,开发了一种基于卷积神经网络的玉米叶啃孔自动检测玉米重要害虫的方法,他们验证了经典网络结构ResNet50中的分裂注意力机制,提高了准确性和鲁棒性,并验证了2种啃孔作为草地贪夜蛾入侵识别特征的可行性[94]。
3.2 番茄虫害检测
烟粉虱(Bemisia tabaci)是一种危害番茄作物的昆虫害虫,其成虫体长1.5~2.0 mm,呈浅黄色或灰色,身体扁平,2对翅膀交叠在一起形成三角形。烟粉虱吸食植物汁液,被害植株叶片褪绿、变黄、萎蔫,甚至全株死亡。它还传播黄化曲叶病毒,导致番茄叶片萎缩[95]。
蓟马(Thripidae)成虫身体黄色,前胸后缘有缘鬃,翅细长透明,周缘有许多细长毛。卵长椭圆形,初产时白色,略透明,后期橙红色。若虫体淡黄色,老熟时带桃红色。蓟马成虫和若虫锉吸植株幼嫩组织汁液为食。
烟粉虱和蓟马的外形特征鲜明,体型相对于其他昆虫来说大小适中,较为常见,便于采集数据,但是YOLO系列算法并不能很好地检测虫害,由于图像中虫害目标较小,并不能很好地实现检测。在对番茄烟粉虱和蓟马虫害检测时,需要进一步改进算法,Domingues等采用YOLO v5,使用了一种滑动窗口方法来最大限度地减少昆虫的重复检测,取得了良好的效果,准确率和召回率分别为88%和91%,准确率需要进一步提高[96]。
4 结论与展望
本综述对近年来基于深度学习的农业病虫害检测的相关研究进行了总结,发现深度学习技术结合不同的技术能够应对实际情况中不同的难题。虽然深度学习技术已经取得了很多成果,但仍存在着一些挑战和问题。这些结合不同技术的检测方法并不是为了取代现有的疾病诊断解决方案,而是为了补充它们,因为实验室检测总是比单纯基于视觉症状的诊断更可靠,而且早期诊断通常具有一定的难度和挑战性[97]。以下是总结的主要问题。
(1)深度学习的一个显著缺点是即使使用了数据增强技术,也需要许多数据集来提供更好的性能[98]。并且存在数据获取困难、模型可解释性问题、无人机飞行安全等限制因素,对于数据质量和数量不足的问题,目前没有较好的解决方法。
(2)大多病虫害检测模型泛化能力不强,常表现为对新数据的预测能力差、对噪声数据敏感、对数据分布变化敏感和不具有通用性。解决方法包括增加训练数据量、选择合适的模型结构和超参数以及对输入数据进行预处理和增强等,但由于数据的复杂性和多样性,如光谱数据处理和分析的复杂性、样本数量和质量的限制等。特别是训练阶段,这些方法存在一定的局限性,因此可以选择迁移学习来改善模型[99]。对于处理具有相似特性的病虫害图像问题,需要高效预处理和采用较好的特征融合技术[100]。
(3)尽管基于深度学习的病虫害检测技术取得一定进展,但目前市场上还没有成熟的商业化解决方案[101]。解决商业化问题的关键是解决硬件限制和病虫害变异性2个问题。深度学习模型需要大量的计算资源和存储空间,这使得部署和维护成本较高,对于一些中小企业和农户来说难以承担。此外,病虫害有很强的变异性,分类器难以捕捉到这些变化,导致模型的准确率和泛化能力受到影响。为了促进相关者之间的合作,需要开发合适的商业模式和潜在的法律框架[102]。
未来的研究可以致力于解决模型的泛化性和稳定性问题,开发所提出的混合深度学习系统用于病虫害检测并在准确性方面评估其性能[98],并提高轻量化模型在算力有限的嵌入式设备上的检测速度,开发可用于边缘设备进行实时准确检测果实目标的模型[103]。要注意在讨论病害检测和定量问题的同时,也需要研究量化技术和预测模型的进展[104]。基于深度学习的农业病虫害检测具有广泛应用前景,需要进一步研究和开发。结合多种传感器技术,可以采集更加丰富和多样化的数据,提高数据的精度和可靠性,但需要注意数据的安全性和隐私保护问题。无人机技术的发展将进一步提高其飞行安全和稳定性,从而更加稳定地执行监测和数据采集任务。未来将在技术和数据方面不断发展完善,为各个领域的决策者和从业者提供更加精准的数据和更高效的服务。
参考文献:
[1]张 帆,郭思媛,任方涛,等. 基于改进YOLO v3的玉米叶片气孔自动识别与测量方法[J]. 农业机械学报,2023,54(2):216-222.
[2]Hesamian M H,Jia W J,He X J,et al. Deep learning techniques for medical image segmentation:achievements and challenges[J]. Journal of Digital Imaging,2019,32(4):582-596.
[3]Wang J,Liu C,Fu T,et al. Research on automatic target detection and recognition based on deep learning[J]. Journal of Visual Communication and Image Representation,2019,60:44-50.
[4]Patrício D I,Rieder R. Computer vision and artificial intelligence in precision agriculture for grain crops:a systematic review[J]. Computers and Electronics in Agriculture,2018,153:69-81.
[5]Mohammad-Razdari A,Rousseau D,Bakhshipour A,et al. Recent advances in e-monitoring of plant diseases[J]. Biosensors and Bioelectronics,2022,201:113953.
[6]Patel R,Mitra B,Vinchurkar M,et al. Plant pathogenicity and associated/related detection systems.A review[J]. Talanta,2023,251:123808.
[7]Mahlein A K. Plant disease detection by imaging sensors-parallels and specific demands for precision agriculture and plant phenotyping[J]. Plant Disease,2016,100(2):241-251.
[8]Chiwaki K,Nagamori S,Inoue Y. Predicting bacterial wilt disease of tomato plants using remotely sensed thermal imagery[J]. Journal of Agricultural Meteorology,2005,61(3):153-164.
[9]Sankaran S,Maja J M,Buchanon S,et al. Huanglongbing (citrus greening) detection using visible,near infrared and thermal imaging techniques[J]. Sensors,2013,13(2):2117-2130.
[10]Xie C Q,Shao Y N,Li X L,et al. Detection of early blight and late blight diseases on tomato leaves using hyperspectral imaging[J]. Scientific Reports,2015,5:16564.
[11]Sankaran S,Mishra A,Ehsani R,et al. A review of advanced techniques for detecting plant diseases[J]. Computers and Electronics in Agriculture,2010,72(1):1-13.
[12]Lowe A,Harrison N,French A P. Hyperspectral image analysis techniques for the detection and classification of the early onset of plant disease and stress[J]. Plant Methods,2017,13:80.
[13]Kamilaris A,Prenafeta-Boldú F X. A review of the use of convolutional neural networks in agriculture[J]. The Journal of Agricultural Science,2018,156(3):312-322.
[14]Terentev A,Dolzhenko V,Fedotov A,et al. Current state of hyperspectral remote sensing for early plant disease detection:a review[J]. Sensors,2022,22(3):757.
[15]Zheng C W,Abd-Elrahman A,Whitaker V. Remote sensing and machine learning in crop phenotyping and management,with an emphasis on applications in strawberry farming[J]. Remote Sensing,2021,13(3):531.
[16]Velusamy P,Rajendran S,Mahendran R K,et al. Unmanned aerial vehicles (UAV) in precision agriculture:applications and challenges[J]. Energies,2021,15(1):217.
[17]Kaivosoja J,Hautsalo J,Heikkinen J,et al. Reference measurements in developing UAV systems for detecting pests,weeds,and diseases[J]. Remote Sensing,2021,13(7):1238.
[18]王鹏新,田惠仁,张 悦,等. 基于深度学习的作物长势监测和产量估测研究进展[J]. 农业机械学报,2022,53(2):1-14.
[19]李静雪. 基于深度学习的农作物产量预测[D]. 北京:华北电力大学,2020.
[20]Guo Y,Zhang J,Yin C X,et al. Plant disease identification based on deep learning algorithm in smart farming[J]. Discrete Dynamics in Nature and Society,2020,2020:1-11.
[21]Kamilaris A,Prenafeta-Boldú F X. Deep learning in agriculture:a survey[J]. Computers and Electronics in Agriculture,2018,147:70-90.
[22]Alruwaili M,Siddiqi M H,Khan A,et al. RTF-RCNN:an architecture for real-time tomato plant leaf diseases detection in video streaming using faster-RCNN[J]. Bioengineering,2022,9(10):565.
[23]Li D S,Wang R J,Xie C J,et al. A recognition method for rice plant diseases and pests video detection based on deep convolutional neural network[J]. Sensors,2020,20(3):578.
[24]Raj N,Perumal S,Singla S,et al. Computer aided agriculture development for crop disease detection by segmentation and classification using deep learning architectures[J]. Computers and Electrical Engineering,2022,103:108357.
[25]Saleem M H,Khanchi S,Potgieter J,et al. Image-based plant disease identification by deep learning meta-architectures[J]. Plants,2020,9(11):1451.
[26]Liu L,Wang R J,Xie C J,et al. PestNet:an end-to-end deep learning approach for large-scale multi-class pest detection and classification[J]. IEEE Access,2019,7:45301-45312.
[27]耿艳利,林彦伯,付艳芳,等. 基于双扩张层和旋转框定位的群猪目标检测算法研究[J]. 农业机械学报,2023,54(4):323-330.
[28]Tee C A T,Teoh Y X,Yee P L,et al. Discovering the Ganoderma boninense detection methods using machine learning:a review of manual,laboratory,and remote approaches[J]. Ieee Access,2021,9:105776-105787.
[29]Putnam M L. Evaluation of selected methods of plant disease diagnosis[J]. Crop Protection,1995,14(6):517-525.
[30]Revill P A,Wright P J.RT-PCR detection of dsRNAs associated with La France disease of the cultivated mushroom Agaricus bisporus (Lange) Imbach[J]. Journal of Virological Methods,1997,63(1/2):17-26.
[31]Shorten C,Khoshgoftaar T. A survey on image data augmentation for deep learning[J]. Journal of Big Data,2019,6:1-48.
[32]陆丽娜. 农业科学数据监管模型构建及应用研究[D]. 长春:吉林大学,2018.
[33]Meena S D,Susank M,Guttula T,et al. Crop yield improvement with weeds,pest and disease detection[J]. Procedia Computer Science,2023,218:2369-2382.
[34]Jha K,Doshi A,Patel P,et al. A comprehensive review on automation in agriculture using artificial intelligence[J]. Artificial Intelligence in Agriculture,2019,2:1-12.
[35]Wang Y H,Su W H.Convolutional neural networks in computer vision for grain crop phenotyping:a review[J]. Agronomy,2022,12(11):2659.
[36]Mishra S,Sachan R,Rajpal D. Deep convolutional neural network based detection system for real-time corn plant disease recognition[J]. Procedia Computer Science,2020,167:2003-2010.
[37]Waheed A,Goyal M,Gupta D,et al. An optimized dense convolutional neural network model for disease recognition and classification in corn leaf[J]. Computers and Electronics in Agriculture,2020,175:105456.
[38]Zhang X H,Qiao Y,Meng F F,et al. Identification of maize leaf diseases using improved deep convolutional neural networks[J]. IEEE Access,2018,6:30370-30377.
[39]Priyadharshini R A,Arivazhagan S,Arun M,et al. Maize leaf disease classification using deep convolutional neural networks[J]. Neural Computing and Applications,2019,31(12):8887-8895.
[40]Li Z X,Li C,Deng L F,et al. Improved AlexNet with inception-v4 for plant disease diagnosis[J]. Computational Intelligence and Neuroscience,2022,2022:5862600.
[41]徐会杰,黄仪龙,刘 曼. 基于改进YOLO v3模型的玉米叶片病虫害检测与识别研究[J]. 南京农业大学学报,2022,45(6):1276-1285.
[42]Tortorici S,Biondi A,Pérez-Hedo M,et al. Plant defences for enhanced integrated pest management in tomato[J]. Annals of Applied Biology,2022,180(3):328-337.
[43]Brahimi M,Boukhalfa K,Moussaoui A. Deep learning for tomato diseases:classification and symptoms visualization[J]. Applied Artificial Intelligence,2017,31(4):299-315.
[44]Maeda-Gutiérrez V,Galván-Tejada C E,Zanella-Calzada L A,et al. Comparison of convolutional neural network architectures for classification of tomato plant diseases[J]. Applied Sciences,2020,10(4):1245.
[45]贾少鹏,高红菊,杭 潇. 基于深度学习的农作物病虫害图像识别技术研究进展[J]. 农业机械学报,2019,50(增刊1):313-317.
[46]Prabhakar M,Purushothaman R,Awasthi D P.Deep learning based assessment of disease severity for early blight in tomato crop[J]. Multimedia Tools and Applications,2020,79(39/40):28773-28784.
[47]Kibriya H,Rafique R,Ahmad W,et al. Tomato leaf disease detection using convolution neural network[C]//2021 International Bhurban Conference on Applied Sciences and Technologies (IBCAST). Islamabad,Pakistan.IEEE,2021:346-351.
[48]刘志勇,张丽秀,钟婷婷,等. 基于改进leNet-5的番茄病虫害识别的研究[J]. 赣南师范大学学报,2020,41(6):70-74.
[49]Wspanialy P,Moussa M. A detection and severity estimation system for generic diseases of tomato greenhouse plants[J]. Computers and Electronics in Agriculture,2020,178:105701.
[50]Wang X W,Liu J,Liu G X. Diseases detection of occlusion and overlapping tomato leaves based on deep learning[J]. Frontiers in Plant Science,2021,12:792244.
[51]Liu G X,Nouaze J C,Touko Mbouembe P L,et al. YOLO-tomato:a robust algorithm for tomato detection based on YOLO v3[J]. Sensors,2020,20(7):2145.
[52]Hu R J,Zhang S,Wang P,et al. The identification of corn leaf diseases based on transfer learning and data augmentation[C]//Proceedings of the 2020 3rd International Conference on Computer Science and Software Engineering.Beijing China.New York,NY,USA:ACM,2020:58-65.
[53]Sun X L,Wei J S. Identification of maize disease based on transfer learning[J]. Journal of Physics:Conference Series,2020,1437(1):012080.
[54]胡文艺,王洪坤,杜育佳.基于SE模块和ResNet的番茄病虫害识别方法[J]. 农业工程,2022,12(9):33-40.
[55]Liu J,Wang X W. Early recognition of tomato gray leaf spot disease based on MobileNet v2-YOLO v3 model[J]. Plant Methods,2020,16:83.
[56]郭 辉,陈海洋,高国民,等. 基于YOLO v5m的红花花冠目标检测与空间定位方法[J]. 农业机械学报,2023,54(7):272-281.
[57]唐 詹,柏 召,刁 磊,等. 基于注意力池化和堆叠式结构的病虫害文献识别模型[J]. 农业机械学报,2021,52(增刊1):178-184.
[58]王美华,吴振鑫,周祖光. 基于注意力改进CBAM的农作物病虫害细粒度识别研究[J]. 农业机械学报,2021,52(4):239-247.
[59]Liu J,Wang X W,Miao W Q,et al. Tomato pest recognition algorithm based on improved YOLO v4[J]. Frontiers in Plant Science,2022,13:814681.
[60]Xu Y L,Kong S L,Gao Z M,et al. HLNet model and application in crop leaf diseases identification[J]. Sustainability,2022,14(14):8915.
[61]Rahaman M M,Azharuddin M. Wireless sensor networks in agriculture through machine learning:a survey[J]. Computers and Electronics in Agriculture,2022,197:106928.
[62]Zou X G,Liu W C,Huo Z Q,et al. Current status and prospects of research on sensor fault diagnosis of agricultural internet of things[J]. Sensors,2023,23(5):2528.
[63]García-Berná J A,Ouhbi S,Benmouna B,et al. Systematic mapping study on remote sensing in agriculture[J]. Applied Sciences,2020,10(10):3456.
[64]Sun J,Lai Z L,Di L P,et al. Multilevel deep learning network for county-level corn yield estimation in the U.S.corn belt[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing,2020,13:5048-5060.
[65]Darwin B,Dharmaraj P,Prince S,et al. Recognition of bloom/yield in crop images using deep learning models for smart agriculture:a review[J]. Agronomy,2021,11(4):646.
[66]Dhau I,Adam E,Mutanga O,et al. Detecting the severity of maize streak virus infestations in maize crop using in situ hyperspectral data[J]. Transactions of the Royal Society of South Africa,2018,73(1):8-15.
[67]Vong C N,Conway L S,Feng A J,et al. Corn emergence uniformity estimation and mapping using UAV imagery and deep learning[J]. Computers and Electronics in Agriculture,2022,198:107008.
[68]Vong C N,Conway L S,Zhou J F,et al. Early corn stand count of different cropping systems using UAV-imagery and deep learning[J]. Computers and Electronics in Agriculture,2021,186:106214.
[69]Bouguettaya A,Zarzour H,Kechida A,et al. Deep learning techniques to classify agricultural crops through UAV imagery:a review[J]. Neural Computing & Applications,2022,34(12):9511-9536.
[70]Ishengoma F S,Rai I A,Said R N. Identification of maize leaves infected by fall armyworms using UAV-based imagery and convolutional neural networks[J]. Computers and Electronics in Agriculture,2021,184:106124.
[71]申华磊,苏歆琪,赵巧丽,等. 基于深度学习的无人机遥感小麦倒伏面积提取方法[J]. 农业机械学报,2022,53(9):252-260,341.
[72]Ahmad A,Saraswat D,Gamal A,et al. Comparison of deep learning models for corn disease region location,identification of disease type,and severity estimation using images acquired from UAS-mounted and handheld sensors[J]. Journal of the ASABE,2022,65(6):1433-1442.
[73]Osco L P,Marcato J Jr,Marques Ramos A P,et al. A review on deep learning in UAV remote sensing[J]. International Journal of Applied Earth Observation and Geoinformation,2021,102:102456.
[74]Stewart E L,Wiesner-Hanks T,Kaczmar N,et al. Quantitative phenotyping of northern leaf blight in UAV images using deep learning[J]. Remote Sensing,2019,11(19):2209.
[75]Wiesner-Hanks T,Wu H,Stewart E,et al. Millimeter-level plant disease detection from aerial photographs via deep learning and crowdsourced data[J]. Frontiers in Plant Science,2019,10:1550.
[76]Wu H,Wiesner‐Hanks T,Stewart E L,et al. Autonomous detection of plant disease symptoms directly from aerial imagery[J]. The Plant Phenome Journal,2019,2(1):1-9.
[77]Bouguettaya A,Zarzour H,Kechida A,et al. A survey on deep learning-based identification of plant and crop diseases from UAV-based aerial images[J]. Cluster Computing,2023,26(2):1297-1317.
[78]Rehman T,Jin J. Deep adversarial domain adaptation for hyperspectral calibration model transfer among plant phenotyping systems[J]. Biosystems Engineering,2022,224:246-258.
[79]Thangaraj R,Anandamurugan S,Pandiyan P,et al. Artificial intelligence in tomato leaf disease detection:a comprehensive review and discussion[J]. Journal of Plant Diseases and Protection,2021,129(3):1-20.
[80]周占坤. 基于THz-NIR高光谱相融合的番茄病虫害检测研究[D]. 镇江:江苏大学,2022.
[81]Brahim B,Raziyeh P,Sajad S,et al. Comparison of classic classifiers,metaheuristic algorithms and convolutional neural networks in hyperspectral classification of nitrogen treatment in tomato leaves[J]. Remote Sensing,2022,14(24):6366.
[82]Yang W,Nigon T,Hao Z Y,et al. Estimation of corn yield based on hyperspectral imagery and convolutional neural network[J]. Computers and Electronics in Agriculture,2021,184:106092.
[83]Yang W,Yang C,Hao Z Y,et al. Diagnosis of plant cold damage based on hyperspectral imaging and convolutional neural network[J]. IEEE Access,2019,7:118239-118248.
[84]Zhang J,Dai L M,Cheng F.Identification of corn seeds with different freezing damage degree based on hyperspectral reflectance imaging and deep learning method[J]. Food Analytical Methods,2021,14(2):389-400.
[85]Pang L,Men S,Yan L,et al. Rapid vitality estimation and prediction of corn seeds based on spectra and images using deep learning and hyperspectral imaging techniques[J]. IEEE Access,2020,8:123026-123036.
[86]Guerri M F,Distante C,Spagnolo P,et al. Deep learning techniques for hyperspectral image analysis in agriculture:a review[J/OL]. 2023:arXiv:2304.13880.https://arxiv.org/abs/2304.13880.pdf.
[87]Khan A,Vibhute A D,Mali S,et al. A systematic review on hyperspectral imaging technology with a machine and deep learning methodology for agricultural applications[J]. Ecological Informatics,2022,69:101678.
[88]Zhang K P,Yu Z H,Jiang S X,et al. Association of host plant growth and weed occurrence with armyworm (Mythimna separata) damage in corn fields[J]. Journal of Integrative Agriculture,2018,17(7):1538-1544.
[89]Li L T,Zhu Y B,Ma J F,et al. An analysis of the Athetis lepigone transcriptome from four developmental stages[J]. PLoS One,2013,8(9):e73911.
[90]Xu Y Y,Wei W,Lin G Z,et al. The Ras/MAPK pathway is required for regenerative growth of wing discs in the black cutworm Agrotis ypsilon[J]. Insect Biochemistry and Molecular Biology,2021,131:103552.
[91]Chen H L,Lin L L,Xie M H,et al. Influence of constant temperature on reproductive parameters of Holotrichia oblita (Coleoptera:Scarabaeidae)[J]. Journal of Insect Science,2015,15(1):93.
[92]Ishengoma F S,Rai I A,Ngoga S R.Hybrid convolution neural network model for a quicker detection of infested maize plants with fall armyworms using UAV-based images[J]. Ecological Informatics,2022,67:101502.
[93]Lv J W,Li W Y,Fan M Y,et al. Detecting pests from light-trapping images based on improved YOLO v3 model and instance augmentation[J]. Frontiers in Plant Science,2022,13:939498.
[94]Feng J D,Sun Y Q,Zhang K F,et al. Autonomous detection of Spodoptera frugiperda by feeding symptoms directly from UAV RGB imagery[J]. Applied Sciences,2022,12(5):2592.
[95]Jiu M,Zhou X P,Tong L,et al. Vector-virus mutualism accelerates population increase of an invasive whitefly[J]. PLoS One,2007,2(1):e182.
[96]Domingues T,Brando T,Ribeiro R,et al. Insect detection in sticky trap images of tomato crops using machine learning[J]. Agriculture,2022,12(11):1967.
[97]Mohanty S P,Hughes D P,Salathé M.Using deep learning for image-based plant disease detection[J]. Frontiers in Plant Science,2016,7:1419.
[98]Altalak M,Ammad Uddin M,Alajmi A,et al. Smart agriculture applications using deep learning technologies:a survey[J]. Applied Sciences,2022,12(12):5919.
[99]Khan R U,Khan K,Albattah W,et al. Image-based detection of plant diseases:from classical machine learning to deep learning journey[J]. Wireless Communications and Mobile Computing,2021,2021:1-13.
[100]Manavalan R. Automatic identification of diseases in grains crops through computational approaches:a review[J]. Computers and Electronics in Agriculture,2020,178:105802.
[101]Sladojevic S,Arsenovic M,Anderla A,et al. Deep neural networks based recognition of plant diseases by leaf image classification[J]. Computational Intelligence and Neuroscience,2016,2016:3289801.
[102]Fink O,Wang Q,Svensén M,et al. Potential,challenges and future directions for deep learning in prognostics and health management applications[J]. Engineering Applications of Artificial Intelligence,2020,92:103678.
[103]宋怀波,尚钰莹,何东健. 果实目标深度学习识别技术研究进展[J]. 农业机械学报,2023,54(1):1-19.
[104]Verma S,Chug A,Singh A P. Prediction models for identification and diagnosis of tomato plant diseases[C]//2018 International Conference on Advances in Computing,Communications and Informatics (ICACCI).Bangalore,India.IEEE,2018:1557-1563.