基于多尺度卷积与通道域增强的草莓病害识别方法

2023-06-17 16:22黄铝文郑梁黄煜谦博关非凡
江苏农业科学 2023年10期

黄铝文 郑梁 黄煜 谦博 关非凡

摘要:为提高草莓病害图像的分类准确性,提出一种基于通道域增强的深度超参数化金字塔卷积残差网络(CEM-DOPConv-ResNet18)。首先,针对草莓病害的多尺度特点,基于金字塔卷积与深度超参数化卷积提出深度超参数化金字塔卷积(DOPConv),在提取多尺度病害特征的同时,缓解参数量增加导致的收敛干扰;其次,提出基于双重池化的通道增强模块,用以提高模型的特征选择能力,增强有用尺度下的特征;最后,将上述方法与ResNet18结合,将原本的3×3卷积替换为DOPConv,同时在残差块中加入通道增强模块,构建出草莓病害分类网络。为验证模型识别性能与模块有效性,在草莓病害图像数据集上进行对比试验和消融试验。对比试验结果表明,与原有ResNet18模型相比,CEM-DOPConv-ResNet18的准确率达97.867%,提高3.045百分点,同时内存占用量下降16.6%;消融试验结果表明,相较于原始金字塔卷积,DOPConv可以优化模型收敛,对通道增强模块具有更高的兼容度。该模型提高了草莓病害的分类准确率,降低了网络复杂度,为病害的精准识别提供了一种有效解决模型。

关键词:草莓病害识别;多尺度卷积算子;特征增强;残差模块

中图分类号:TP391.41文献标志码:A

文章编号:1002-1302(2023)10-0202-09

我国是全球最大的草莓生产国,草莓播种面积在全球占比近1/3[1]。而草莓病害的发生和扩散造成了大量减产。传统草莓病害的预防方法主要依靠种植人员的经验,对草莓生长进行追踪和监控,但草莓病害症状多样,部分特征相似性强,仅靠人工检测无法达到有效防控。研究表明,深度学习方法已被应用于多种作物的病害识别,实现了高效病害检测[2-4]。病害识别模型的可靠性和准确性,一直是农作物病害检测的研究热点。为此,本研究提出一种基于残差模型的多尺度病害识别方法,提高草莓病害的整体识别精度。

由表1可知,文献[5-6]采用迁移学习方式,将病害先验与网络融合,提高了模型的泛化能力[7]。文献[8-9]采用胶囊网络模型,胶囊层可包含病害的多种信息,提高了模型的识别能力[10]。文献[11-12]采用注意力机制,通过特征重标定,提高了模型的特征选择能力[13]。然而,上述模型大多采用单一尺度卷积,感受野较固定,在面对尺度分布较复杂的病害时,特征提取能力有限。

结合草莓发病性状的特点,在叶片和果实上的病斑通常呈现尺度不一的性质;同时,在同一发病位置上,不同病症在不同发病时期的病斑具有尺度差异。表1所示方法还未充分考虑病斑大小不一所导致的多尺度特征问题。金字塔卷积能通过集成不同尺度的卷积核,提取不同尺度分布下的目标特征[14],在多标签图像分类[15]、医学图像分割[16]上效果较为明显。相较于文献[7]的多分支融合提取方式,金字塔卷积仅需单分支,较为简易;但多尺度提取方式在一定程度上会导致参数量增加,干扰模型的收敛。文献[18]提出的深度超参数化卷积,可以通过改变卷积方式优化模型的收敛,能提高整体的识别性能,已应用于高光谱图像分类[19]、视觉跟踪[20]和医学图像分割[21]。

为提高作物病害的识别精度,解决深度模型单一尺度特征的不足,并改善参数量增加导致的模型快速收敛问题,本研究提出了一种基于金字塔卷积和深度超参数化卷积的深度超参数化金字塔卷积(DOPConv),将其用于改造和优化卷积神经网络;同时提出并使用基于双重池化的通道增强模块(CEM),以进一步优化网络分类性能。该模型可满足草莓常见病害的分类与快速检测需求。

1材料与方法

1.1草莓病害数据集获取

病害数据集为Afzaal等提供的草莓图像,包含草莓果实上的白粉病、灰霉病、炭疽病及叶面上的白粉病、蛇眼病、角斑病、枯萎病7类样本,共计2500幅图像,其中每类病害均包含了发病各个时期的图像[22]。数据集中的图像文件大小集中于143~226kB之间,尺寸为419×419像素。各类别病害数量分布如表2所示,示例样本如图1所示。

在草莓数据集中,发病部位涵盖了叶片和果实,呈现整体病斑大小不一、形态特征多样等性质,但是不同发病时期的不同病害呈现相似的发病特征。例如,叶片角斑病在发病初期,表面出现红褐色不规则病斑,病斑扩大时受叶脉限制,形成角形叶斑;叶片蛇眼病在发病初期,表面出现紫红色小圆斑,随后病斑扩大,中心为灰色,周围紫褐色,呈蛇眼状。由圖1-a、图1-b可见,二者在感染初期特征相近,都具有大小相似的褐色不规则病斑。当果实感染白粉病时,幼果被白粉覆盖;在感染灰霉病时,幼果湿软腐烂;湿度大时,病部产生灰褐色霉状物。由图1-e、图1-f可见,灰霉病、白粉病发病初期都具有灰白色霜状覆盖物,边界形状不规则,相似程度高。不同类别的草莓病害在一定条件下会形成相似的特征,叶片症状主要表现为出现病斑,呈现小而密集的特点;果实症状表现多为果实表面有明显覆盖物,属于较大目标。以上这些病害的识别都会受到发病区域大小等尺度因素的影响。

1.2数据增强

为增强模型的泛化能力,在现有数据条件下扩充数据集规模,能模拟同一图像目标在不同拍摄环境下的状态,更加充分利用现有数据集的价值[23]。采用颜色与对比度调整模拟不同光照条件下的病害图像采集,有利于降低模型对白粉病、灰霉病等颜色特征较为明显的病害敏感性;采用几何旋转与镜像翻转模拟不同拍摄角度下的病害图像,提高模型对于不同角度的鲁棒性。将数据集按照6∶2∶2划分为训练集、验证集、测试集,然后通过上述2类共8种数据增强方法进行数据增强。增强前后的对比结果如图2所示,最终数据集划分结果如表3所示。

2草莓病害识别模型

为实现草莓病害不同尺度大小的病斑特征识别,构建基于通道增强的深度超参数化金字塔卷积残差网络模型CEM-DOPConv-ResNet18(Channel-Enhancement-Module-Depthwise-Over-Parameterized-Convolution-ResNet18)。模型组成主要包括3个部分:(1)提取病害深度语义特征的残差模块;(2)草莓病害性状的多尺度特征提取模块;(3)基于双重池化的尺度自适应增强模块。

2.1残差模块

草莓病害的发病症状多样,例如:白粉病在叶片或果实表面呈现白色粉状全覆盖物;灰霉病、炭疽病会导致不规则棕褐色斑;蛇眼病、角斑病等会产生密集的角状和椭圆病斑。浅层网络通常只能提取到边缘等低级共性特征,表达能力较弱,不足以区分相似性强、大小不一的草莓病症。同时,在深度模型的层数堆叠过度时,容易发生梯度弥散、梯度爆炸的问题。为此,本研究采用何恺明等提出的残差网络[24]来提取草莓病害的深度特征,残差网络的核心即残差模块的基本结构如图3所示。

在每个残差模块中,代表原始输入的identity与经过特征提取层的输出F(x)相加,得到最终的输出H(x),此时F(x)=H(x)-x,即为最终输出的残差,以此达到让模型学习残差的目的。残差模块的计算公式为:

式中:yi表示第i个残差块输出结果;wi表示第i个残差块权重层;xi表示第i个残差块输入特征;downsample表示下采样操作。

在反向传播过程中,由于模型学习的F(x)=H(x)-x,因此梯度可以始终保持一个较大的值,不会因为网络的加深而出现弥散现象,便于模型参数的优化。同时模型深度的增加提高了模型的表达能力,有利于提高最终的病害分类精度。考虑到模型容量与数据规模的适配性,本研究选择ResNet18作为基础网络。

2.2深度超参数化金字塔卷积

草莓病害特征在尺度分布上有较大差异,如蛇眼病早期在叶片上形成许多近圆形小斑点,呈现小而密的特点,但在中后期小斑点会汇聚成大病斑,形成类别内的特征尺度差异;另外,果实病害形成的病斑较大,如白粉病的白色菌层等,而在叶片上的病斑较小,如角斑病的角状病斑,构成类别间的尺度差异。因此,采用多尺度特征提取,有利于模型精准捕捉到不同病害的发病部位。但是,现有多尺度特征提取通常使用多分支融合方式进行,易导致模型参数量增加,使得模型在参数空间中难以收敛。为此,结合深度超参数化卷积与金字塔卷积模型,提出了深度超参数化金字塔卷积模型,在提取多尺度特征的同时,便于网络收敛和最优参数组合。

由图4可见,金字塔卷积由1个卷积核金字塔构成,集成了不同尺度的卷积核。大尺度卷积核具备较大感受野,可以提取草莓病害中的大病斑特征;小尺度卷积核感受野较小,可以提取小病斑特征。在多种尺度的卷积操作之后,通过调整padding、stride等参数,将不同尺度的病斑特征统一到同一尺度特征图下,再通过通道拼接的方式完成特征融合。

本研究在金字塔卷积基础上引入深度超参数化卷积,核金字塔中采用不同尺度的深度超参数化卷积,形成深度超参数化金字塔卷积。进行特征提取时首先使用1次深度卷积[25],再使用1次标准卷积,计算完成后得到某一个尺度上的输出特征图。深度卷积使单一卷积核卷积单一通道,针对某一特定通道,使用Dmul个卷积核,能得到Dmul个特征图。因此,假定卷积核尺度为m×n,输入通道数为Cin,输出通道数为Cout,则深度卷积的权重空间属于F(Cin×Dmul×m×n)。由于每次卷积只利用了单一通道的信息,没有进行跨通道交互,导致了信息损失。因此,再对中间结果进行标准卷积,将多通道信息融合,此时所用的标准卷积权重空间属于R(Cin×Cout×Dmul)。深度超参数化卷积的计算公式为:

式中:P表示输入特征图;O表示输出特征图;D表示深度卷积核;o表示深度卷积操作;W表示标准卷积核;*表示标准卷积操作。

根据文献[18]中的方法,令Dmul=m×n,则会多出Cin×m×n×Dmul个参数,为1个深度卷积的参数量。与原来的金字塔卷积相比,在引入深度超参数化卷积后,虽然在一定程度上增加了参数量,但是在正向传播过程中,深度卷积核与标准卷积核通过核融合方式,可以合并为单一卷积核,不会增加计算需求。在反向传播时,核金字塔所有层中的2个卷积核可以同时被训练,相较于标准的卷积方式,额外进行了1次参数更新,因此可以加速模型的训练,优化模型在参数空间中的收敛过程。消融试验结果表明,金字塔卷积与深度超参数卷积结合,可以有效抵消由增加多尺度组件和其他网络组件带来的模型复杂度、干扰模型收敛等问题,有利于提高整體的识别准确率。

2.3基于双重池化的通道增强模块

草莓病害图像中除了病斑,还有背景和未被病害侵染的健康组织,而不同通道的特征图中可能包含了这些影响模型分类的信息,需要进行筛选。同时,不同尺度下,特征的重要程度受病害性状的影响。为此,本研究提出了基于双重池化的通道增强模块,对尺度进行自适应增强和选择。该机制根据每一幅特征图的全局信息和最大信息,进行特征通道的重标定,能增强对识别任务更有帮助的通道,抑制较无用的通道。由于模型中不同通道中的信息含有不同尺度下提取的特征语义,因此,增强通道的行为将改进模型学习中较重要的尺度。

基于双重池化的通道筛选模块结构如图5所示,首先进行平均池化和最大池化,得到每个通道特征图的全局表示和最大表示,然后沿着通道维度分别进行一维卷积,将卷积得到的2个结果相加,并进行Sigmoid运算,最终结果作为权重,并将相应的通道加权。在一维卷积核长度为2K+1时,公式如下。

式中:AvgPool表示全局平均池化;MaxPool表示全局最大池化;ai表示平均信息一维卷积中第i个权重;bi表示最大信息一维卷积中第i个权重;σ(·)表示Sigmoid运算;xi表示第i个通道特征图;wi表示第i个通道权重。

通道增强模块使用了病害的全局信息和最大信息,相较于ECA注意力[26],使用了更多信息,提高了通道特征的表达能力,增加了特征重标定的精确性。在进行一维卷积时,不同通道均利用了相邻通道的信息,形成跨域的信息流通,相较于SE注意力及其变体[27],避免压缩过程中通道降维操作导致的信息损失等负面影响。

2.4病害识别模型结构

在ResNet18的基础上,CEM-DOPConv-ResNet18加入深度超参数化金字塔卷积与通道增强模块,共分为4个残差层,每层包含2个残差模块。将每个残差块中第1个3×3卷积替换为多尺度卷积,从第1层到第4层,核金字塔内的核尺度依次为(3,5,7,9)、(3,5,7)、(3,5)、3。将第2个3×3卷积替换为1×1卷积进行通道升降維。同时,在每个残差块的末尾加入通道增强模块;为便于梯度计算,将模块放置在残差连接之前。特征降采样由每层第1个残差块中步长为2的多尺度卷积完成。在网络最后,保留原有平均池化与全连接层,作为最终分类判别输出,整体网络结构和各残差层内部结构如图6所示。

3试验结果与分析

本试验于2022年9月在西北农林科技大学信息工程学院深度学习服务器上运行,试验环境使用Ubuntu20.04.4,CPU型号为IntelXeonE5-2690v4(14核、主频2.6GHz),GPU型号为NVIDIAGeForceRTX3080Ti(流处理器10240个、显存16GB),深度学习框架为PyTorch1.10.2。训练过程中,为使模型能够逃离局部最小点,优化器采用带动量的SGD[28],学习率调整采用余弦退火策略。

试验参数设置训练轮数为80,批次大小为128,初始学习率为0.001,动量值为0.7,余弦退火周期为10个训练轮数。余弦退火的学习率变化曲线如图7所示,余弦退火可使学习率的大小如余弦函数般周期性变化;在1个周期的最大值中,模型可以凭借较大的学习率逃离局部最优点,然后学习率逐渐减小,使模型能够在一段区间内较好地收敛。在多个周期中,学习率会循环变化,覆盖范围较大,具有较好的鲁棒性。

3.1模型性能对比

将本研究模型与经典模型对测试集准确率、精确率、召回率、F1值、参数量、内存占用量大小6个指标进行比较,结果如表4所示。同时,对各模型进行不同类别草莓病害识别准确率对比,结果如表5所示。

由表4可知,CEM-DOPConv-ResNet18取得最高的准确率和F1值,且内存占用较小;相较于InceptionV3、ResNet34,在减少内存占用的同时提高了准确率;相较于基础模型ResNet18,参数量、模型内存占用量分别下降了16.7%、16.6%。

由表5可知,果实上炭疽病、灰霉病、白粉病的识别准确率较低。这是因为,果实上的白粉病与炭疽病在发病早期症状较为类似,都会呈现灰白色覆盖物的特征,所以两者区分较为困难。从特征细节看,白粉病是附着表面的白色菌丝且覆盖面积大,而灰霉病是不规则的灰色霉层且覆盖面较小,两者全局信息相似但有细微的颜色差异和尺度差异。除此之外,炭疽病和灰霉病的褐色病斑颜色相近,蛇眼病发病前后期的病斑大小不一致,都具有一定的识别难度。本研究中,CEM-DOPConv-ResNet18在果实白粉病、灰霉病和叶片角斑病、枯萎病、白粉病的识别上,取得了最高的准确率,在炭疽病果实的识别上仅次于ResNet34,在蛇眼病叶片的识别上仅次于InceptionV3。上述结果充分说明,该模型能够捕捉不同病害症状之间的细微差别和尺度差异,对草莓病害图像分类有良好表现。

为了直观地呈现不同模型在训练过程中验证集准确率的变化,绘制训练曲线(图8)。由图8可知,本研究所提出模型在训练过程中始终保持较高的准确率,曲线振荡幅度较小,整体较平滑,这说明深度超参数化卷积对于模型训练有优化作用。混淆矩阵可以具体反映出模型的误识别情况。由图9可得,模型将26个炭疽病果实识别为灰霉病果实,11个灰霉病果实识别为炭疽病果实。由图10可见,灰霉病前期会在果实表面形成褐色病斑,后产生灰色霉层;炭疽病也会在果实表面形成褐色病斑。在灰霉病褐色病斑与霉层交叠时,产生出与炭疽病病斑相近的症状,因此导致模型的误识别。

同时,模型将34个白粉病果实识别为了灰霉病果实。由图11可见,2类果实表面均有白色絮状覆盖物。白粉病果实发病会在表面生成白色霉层,而灰霉病会在发病时生成灰色霉层,在一定的光照与角度下,2种霉层颜色较相近,因此导致了模型的误识别。

综上所述,本研究提出的模型在对于叶片发病部位的分类上具有较高的准确率,多尺度的特征提取与通道域增强的尺度选择,可以减少模型对病斑大小的敏感性,能够对大小病斑进行合理提取并区分。模型对部分发病果实有一定误识别现象,因为不同的果实病害在不同发病时期可能会产生相近且难以区分的症状,因此增加了模型识别的难度。

3.2消融试验

为了分析深度超参数化金字塔卷积和通道增强模块对于模型的提升效果,本研究设置了消融试验,结果如表6所示。使用了多尺度卷积后,模型的识别性能都有较大的提升。在使用标准卷积的金字塔卷积模型中,增加CEM后,识别准确率有所下降,表明了金字塔卷积与CEM的融合为模型性能带来了负面影响。因为增加网络组件而提升了模型复杂度,使得模型的收敛变得更加困难,造成性能的下降。在使用深度超参数化金字塔卷积后,再加入CEM,模型的准确率提高了1.099百分点,F1值提高了2.026百分点,表明深度超参数金字塔卷积与CEM的融合进一步提升了模型性能。同时,引入了深度超参数卷积,模型准确率均高于未引入时。由此可以看出,深度超参数化卷积可以优化模型的收敛,对于其他网络组件有更好的兼容性,使得模型学习到更优的参数组合。

3.3特征可视化

为了直观了解图像中对于模型决策更加重要的部分,使用类激活图(classattentionmap,CAM)[29]进行特征可视化。由图12可知,高激活值区域可以覆盖各个病害的发病区域,且大小不一。CEM-DOPConv-ResNet18对于果实上的炭疽病、灰霉病、白粉病,在表面覆盖物和溃烂处激活值较高;对于叶片上的蛇眼病、角斑病,高激活值部分基本覆盖病斑区域,但是分布并不均匀。对于叶片上的枯萎病、白粉病,高激活值部分精准覆盖发病区域。因此,本研究提出的CEM-DOPConv-ResNet18模型可有效捕捉不同部位、不同尺度下的发病特征。

4结论

针对草莓病害的不同发病部位和不同病斑尺度等识别问题,提出了深度超参数化金字塔卷积,并以ResNet18为基础模型进行改进优化,将残差块中的第1个3×3卷积改为金字塔卷积,将第2个3×3卷积改为1×1卷积,使得模型可以提取多尺度特征。同时,在残差连接之前加入通道增强模块,增强较有用的通道,抑制较无用的通道,进行尺度筛选。

改進后的CEM-DOPConv-ResNet18对于7类草莓病害的分类准确度达97.867%,相较于原本的ResNet18提高了3.045百分点;模型参数量、内存占用量分别下降了16.7%、16.6%,降低模型复杂度的同时,提高了模型性能。相较于ResNet18,对果实上发病性状相似的白粉病、灰霉病、炭疽病的识别准确率均有所提高。

本研究提出的深度超参数化金字塔卷积算子,可以增加特征多尺度提取能力,还能优化模型收敛,对于其他网络组件具有较好的兼容度,可以应用到相似识别领域。

参考文献:

[1]王鸣谦,薛莉,赵珺,等.世界草莓生产及贸易现状[J].中国果树,2021(2):104-108.

[2]ThakurPS,KhannaP,SheoreyT,etal.Trendsinvision-basedmachinelearningtechniquesforplantdiseaseidentification:asystematicreview[J].ExpertSystemsWithApplications,2022,208:118117.

[3]翟肇裕,曹益飞,徐焕良,等.农作物病虫害识别关键技术研究综述[J].农业机械学报,2021,52(7):1-18.

[4]NgugiLC,AbelwahabM,Abo-ZahhadM.Recentadvancesinimageprocessingtechniquesforautomatedleafpestanddiseaserecognition-Areview[J].InformationProcessinginAgriculture,2021,8(1):27-51.

[5]MaL,GuoXL,ZhaoSK,etal.Algorithmofstrawberrydiseaserecognitionbasedondeepconvolutionalneuralnetwork[J].Complexity,2021,2021:1-10.

[6]KimB,HanYK,ParkJH,etal.Improvedvision-baseddetectionofstrawberrydiseasesusingadeepneuralnetwork[J].FrontiersinPlantScience,2021,11:559172.

[7]ZhuangFZ,QiZY,DuanKY,etal.Acomprehensivesurveyontransferlearning[J].ProceedingsoftheIEEE,2021,109(1):43-76.

[8]丁永军,张晶晶,李民赞.基于卷积胶囊网络的百合病害识别研究[J].农业机械学报,2020,51(12):246-251,331.

[9]张会敏,谢泽奇,张善文.基于注意力胶囊网络的作物病害识别方法[J].江苏农业科学,2022,50(6):101-106.

[10]KwabenaPatrickM,FelixAdekoyaA,AbraMightyA,etal.Capsulenetworks-Asurvey[J].JournalofKingSaudUniversity-ComputerandInformationSciences,2022,34(1):1295-1310.

[11]李书琴,陈聪,朱彤,等.基于轻量级残差网络的植物叶片病害识别[J].农业机械学报,2022,53(3):243-250.

[12]王美华,吴振鑫,周祖光.基于注意力改进CBAM的农作物病虫害细粒度识别研究[J].农业机械学报,2021,52(4):239-247.

[13]NiuZY,ZhongGQ,YuH.Areviewontheattentionmechanismofdeeplearning[J].Neurocomputing,2021,452:48-62.

[14]ShiH,CaoG,GeZX,etal.Double-branchnetworkwithpyramidalconvolutionanditerativeattentionforhyperspectralimageclassification[J].RemoteSensing,2021,13(7):1403.

[15]YangXH,YangY,YangJ,etal.Imagemulti-labelclassificationbasedonpyramidconvolutionandsplit-attentionmechanism[C]//202118thInternationalComputerConferenceonWaveletActiveMediaTechnologyandInformationProcessing(ICCWAMTIP).December17-19,2021,Chengdu,China.IEEE,2022:534-538.

[16]LiCY,FanYX,CaiXD.PyConvU-Net:alightweightandmultiscalenetworkforbiomedicalimagesegmentation[J].BMCBioinformatics,2021,22(1):14.

[17]黄林生,罗耀武,杨小冬,等.基于注意力机制和多尺度残差网络的农作物病害识别[J].农业机械学报,2021,52(10):264-271.

[18]CaoJM,LiYY,SunMC,etal.DO-conv:depthwiseover-parameterizedconvolutionallayer[J].IEEETransactionsonImageProcessing,2022,31:3726-3736.

[19]GaoHM,ChenZH,LiCM.Shallownetworkbasedondepthwiseoverparameterizedconvolutionforhyperspectralimageclassification[J].IEEEGeoscienceandRemoteSensingLetters,2022,19:1-5.

[20]WangYY,ZhangWS,ZhangLM,etal.Depthwiseover-parameterizedSiamesenetworkforvisualtracking[C]//2021InternationalConferenceonInformationTechnologyandBiomedicalEngineering(ICITBE).December24-26,2021,Nanchang,China.IEEE,2022:58-62.

[21]LiuYH,ShenJ,YangL,etal.ResDO-UNet:adeepresidualnetworkforaccurateretinalvesselsegmentationfromfundusimages[J].BiomedicalSignalProcessingandControl,2023,79:104087.

[22]AfzaalU,BhattaraiB,PandeyaYR,etal.AninstancesegmentationmodelforstrawberrydiseasesbasedonmaskR-CNN[J].Sensors,2021,21(19):6565.

[23]ShortenC,KhoshgoftaarTM.Asurveyonimagedataaugmentationfordeeplearning[J].JournalofBigData,2019,6(1):1-48.

[24]HeKM,ZhangXY,RenSQ,etal.Deepresiduallearningforimagerecognition[C]//2016IEEEConferenceonComputerVisionandPatternRecognition(CVPR).June27-30,2016,LasVegas,NV,USA.IEEE,2016:770-778.

[25]CholletF.Xception:deeplearningwithdepthwiseseparableconvolutions[C]//2017IEEEConferenceonComputerVisionandPatternRecognition(CVPR).July21-26,2017,Honolulu,HI,USA.IEEE,2017:1800-1807.

[26]WangQL,WuBG,ZhuPF,etal.ECA-net:efficientchannelattentionfordeepconvolutionalneuralnetworks[C]//2020IEEE/CVFConferenceonComputerVisionandPatternRecognition(CVPR).June13-19,2020.Seattle,WA,USA.IEEE,2020:11531-11539.

[27]HuJ,ShenL,AlbanieS,etal.Squeeze-and-excitationnetworks[J].IEEETransactionsonPatternAnalysisandMachineIntelligence,2020,42(8):2011-2023.

[28]史加榮,王丹,尚凡华,等.随机梯度下降算法研究进展[J].自动化学报,2021,47(9):2103-2119.

[29]ZhouBL,KhoslaA,LapedrizaA,etal.Learningdeepfeaturesfordiscriminativelocalization[C]//2016IEEEConferenceonComputerVisionandPatternRecognition(CVPR).June27-30,2016.LasVegas,NV,USA.IEEE,2016:2921-2929.