池化
- 面向神经网络池化层的灵活高效硬件设计
大多数网络都需要池化层来降低卷积层输出的特征向量。对于池化层，研究者们提出了许多硬件方案：陈浩敏等人[4]基于YOLOv3-tiny的硬件加速设计中池化层输入图像最大可支持416，但仅支持核大小为2×2 的池化。许杰等人[5]设计的cifar10_quick 优化网络，采取两两比较的层间流水实现核2×2的池化，该方法无任何数据复用，因此在重叠池化中性能较低。Cho 等人[6]的卷积神经网络加速器使用HLS（high-level synthesis）设计，H
计算机工程与应用 2023年22期2023-11-27
- 改进模糊二值模式算法及其在卷积神经网络中的降噪性能*
卷积神经网络中，池化层的重要作用是实现特征降维、提取关键信息并丢弃冗余信息。然而，传统的池化操作只是对数据进行简单的粗处理，如最大池化法只极端的保留最大值元素，很容易引进噪声；平均池化法取池化窗口内的均值，弱化了最大值关键元素。对此，国内外许多研究学者提出了较为有效的改进方法。2013 年Rob Fergus 等［9］提出了随机池化（Stochastic pooling）方法，在池化窗口内对特征图数值进行归一化，按照特征图归一化后的概率值大小随机采样选择。
计算机与数字工程 2023年3期2023-07-11
- 基于改进deeplabv3+的舌象分割算法
AM）和改进条带池化模块（strip pooling module, SPM）［7］及 混 合 池 化 模 块（mixed pooling module, MPM）来提取上下文信息，更好地进行舌象分割。1 整体分割网络模型结构本文采用编码器-解码器结构来对网络模型deeplabv3+进行语义分割，在编码器部分引入空间金字塔模块，对输入特征采用多采样率扩张卷积来获取多尺度上下文信息，然后通过编码器-解码器结构来恢复空间信息并获取目标边界，将其有效结合进行高效
现代计算机 2023年3期2023-04-13
- 基于Sobel算子的池化算法设计
初步实现卷积层和池化层功能，可对特征进行提取、筛选，对后续卷积神经网络的发展具有启发性意义。Waibel等[2]首次将卷积神经网络用于语音识别，设计出了时延卷积神经网络(time delay neural network，TDNN)算法，并采用反向传播机制进行训练，获得了圆满的效果，优于同时期的主流语音识别算法隐马尔可夫模型(hidden Markov model，HMM)等。LeCun等[3]提出适用于计算机视觉问题的LeNet，它包含卷积层、全连接层，
科学技术与工程 2023年3期2023-03-15
- 新型下采样法在视网膜血管分割中的应用
的下采样模块PF池化，其可以更好地融合相邻像素的语义信息。在不同的模型及不同分割任务上进行验证，结果表明采用PF池化替换原始最大池化后，模型性能有了进一步提升，且模型复杂度增加很小，时间开销可以忽略不计，具有良好的泛化性，可以有效地应用于医学图像的分割任务中，辅助医生进行临床诊断。1 新采样算法1.1 预处理视网膜眼底图像往往存在亮度信息不均匀的问题，使得细小血管与背景之间的对比不明显，不利于模型分割。为了更好地实现对微小血管的提取，需要先将原始图像预处理
中国医疗器械杂志 2023年1期2023-02-12
- 融合结构和特征的图层次化池化模型
取图表示的层次化池化应运而生。目前，图的层次化池化研究已有一定成果，主要有两种策略对图进行池化：（1）聚类策略，通过应用聚类算法将当前层的节点分配给若干个聚类，每个聚类将作为池化后下一层的一个节点，池化后节点的表示通过对聚类内部的节点特征进行聚合获得，节点间的连接关系则通过聚合聚类间节点的连接关系获得。（2）采样策略，通过设计一种重要性标准为当前层每一个节点计算一个重要性得分，根据得分选择top-k节点作为池化后下一层的节点，池化后节点的表示为原节点表示与
计算机与生活 2023年1期2023-01-17
- 面向遥感图像检索的级联池化自注意力研究
，然后对特征使用池化方法融合，进一步提高检索性能。Zhou 等人[9]提出了一种以ResNet 为骨干网络的Gabor-CA-ResNet 网络，利用Gabor 表示图像的空间频率结构，结合通道注意力机制来获得判别性更强的深层特征，之后利用基于Split 的深度特征变换网络对特征进行降维。虽然CNN 能够较好地用于图像检索，但是CNN 是对整张图像进行特征提取，不能有效突出图像中的显著特征，并且背景噪声也会对特征产生一定的干扰。在CNN 中引入注意力机制可
光电工程 2022年12期2023-01-11
- 基于动态图卷积的加权点云分类网络
特征，并选择最大池化这一对称函数来处理点云的无序性问题，然而其仅考虑了点云的全局特征，忽略点云的局部特征。DGCNN[3]（dynamic graph CNN）提出使用图卷积网络（graph convolutional network，GCN）来获取点云的局部特征，但仍使用的是“赢者通吃”的最大池化方法，导致了信息的损失。针对这些问题，提出了基于动态图卷积的加权点云分类网络WDGCNN（weighted dynamic graph CNN），使用特征拼接思
计算机工程与应用 2022年20期2022-10-17
- 基于高斯函数的池化算法
输入层、卷积层、池化层、全连接层、输出层等结构组成，由于网络结构设计的不同，不同的卷积神经网络的性能也有很大的差别。2012 年，Hinton和他的学 生Alex 设计出了AlexNet［2］，一举拿下了当年ImageNet 竞赛的冠 军。自此之后，诸如VGG（Visual Geometry Group）［3］、ResNet（Residual Network）［4］、GoogLeNet［5］、DenseNet（Densely Connected Netwo
计算机应用 2022年9期2022-09-25
- 改进的U-Net网络在遥感影像道路提取中的应用
使用一系列卷积和池化操作来提高道路提取效率，但由于没有考虑道路的结构特征，对于较为复杂的区域提取效果不佳。综上可以看出，必须要结合道路目标的结构特性改进模型，才能更适合解决道路提取问题。考虑到道路目标呈现细长形状，而且宽度极其有限，不同的感受野大小设置在道路提取任务中至关重要。研究发现，空洞卷积在扩大感受野的同时不会引入额外的计算参数。此外，空洞空间金字塔池化(atrous spatial pyramid pooling，ASPP)也可以改善感受野的大小，
遥感信息 2022年2期2022-08-18
- 基于小波池的图像分类算法研究
部分，即卷积层和池化层，以提高CNN的准确性和效率，超越以往的模型。池化操作起源于CNN 的前身Neocognitron 和Cresceptron，前者由用户手动进行二次采样，后者在深度学习中引入了第一个max池操作。合并对卷积层的结果进行子采样，从而逐渐减小整个网络中数据的空间尺寸。它的好处是减少了参数，提高了计算效率，并减少了过度拟合[2]。池化是子采样的另一个术语。在该层中，卷积层的输出的维数被压缩，最常用的是最大池化和平均池化。最大池化获取区域的最
自动化技术与应用 2022年7期2022-08-17
- 基于多模双线性池化和时间池化聚合的无参考VMAF视频质量评价模型
级得分预测+时间池化聚合”的方式，分为两阶段进行建模：1) 利用自建的数据集，建立了一种基于多模双线性池化[4]的失真视频帧级VMAF预测模型，用于对视频帧的VMAF分数进行预测；2) 采用3种时间池化方法对预测的视频帧VMAF分数分别进行聚合，构成质量特征向量，采用nu-支持向量回归(nu support vector regression,NuSVR)的方法建立质量特征向量与VMAF预测分数之间的映射模型，用于对失真视频的VMAF分数进行预测.实验结果
北京工业大学学报 2022年7期2022-07-11
- 联合一二阶池化网络学习的遥感场景分类
，丁胜联合一二阶池化网络学习的遥感场景分类边小勇1，2，3*，费雄君1，陈春芳1，阚东东1，丁胜1，2，3（1.武汉科技大学 计算机科学与技术学院，武汉 430065； 2.武汉科技大学 大数据科学与工程研究院，武汉 430065； 3.智能信息处理与实时工业系统湖北省重点实验室（武汉科技大学），武汉 430065）（*通信作者电子邮箱xyongwh04@163.com）目前大多数池化方法主要是从一阶池化层或二阶池化层提取聚合特征信息，忽略了多种池化策略对
计算机应用 2022年6期2022-07-05
- 一种基于BERT和池化操作的文本分类模型
这个问题，本文将池化操作引入到文本分类模型中，结合预训练BERT模型生成更加准确的文本表征向量，以此提高文本分类模型的性能。结果表明，在引入池化操作后，分类模型的性能在实验的所有文本分类任务中均得到了提升。1 BERT模型的逻辑结构为了更好地理解BERT模型的工作原理，本章将详细介绍BERT模型的逻辑结构。BERT是一个基于Transformer[15]框架的通用语言模型，可为文本生成高质量的表征向量。图1展示了BERT模型的逻辑结构。它由若干个编码器组成
计算机与现代化 2022年6期2022-06-23
- 一种基于FPGA的通用卷积神经网络加速器的设计与实现
力的加倍；在平均池化的计算中，采取了一种“伪卷积”的方式，以卷积介质访问控制层乘加器阵列(Multiplier and Accumulation, MAC)阵列来实现平均池化，避免消耗额外的逻辑资源；最后在Xilinx Kintex-7 XC7K325T FPGA上进行了验证。1 CNN网络介绍及硬件加速原理第1个成功商用的卷积神经网络是LeNet[1]，它包含2个卷积层和2个全连接层，卷积核的尺寸都是5×5，每个卷积层后紧跟着一个平均池化层，仅使用一个s
复旦学报（自然科学版） 2022年1期2022-06-16
- 移动互联网时代堆叠套餐资源池化计费研究与应用
时代迫切需要引入池化资源支撑流量业务模式拓展，在市场竞争中掌握先机。2 堆叠套餐资源池化的引入计费模式的完善和创新离不开计费系统的发展和突破。近年来基于移动互联网平台的计费系统不断更新和优化，新的套餐设置技术不断引入可逐步解决困扰运营商已久的计费套餐设置复杂问题。堆叠套餐资源池化技术就是近来计费领域一个引人瞩目的创新。此技术的运用实现了如下目标。（1）精简用户资费结构：通过池化同类业务资源，实现用户叠加资费的扁平化处理。（2）转变计费批价模式：依托资源池，
数字通信世界 2022年5期2022-06-07
- 基于混合池化YOLO 的目标检测方法
]提出空间金字塔池化网络（spatial pyramid pooling networks，SPPNet），通过引入空间金字塔池化来解决R-CNN 重复计算大量重叠候选区域的问题，从而避免了卷积特征的重复计算；针对空间金字塔网络的训练过程仍是一个多阶段过程，文献[5]提出Fast R-CNN，实现了检测器和边框回归器的同步训练，另外通过共享计算加速特征提取，使得检测速度比R-CNN 快将近200 倍；文献[6]中采用区域建议网络（region propos
天津城建大学学报 2022年2期2022-05-20
- 融合多尺度对比池化特征的行人重识别方法
法大多数采用平均池化、最大池化或将两者相结合。本文提出一种多尺度对比池化特征融合的行人重识别方法。基于网络中不同尺度的特征信息，通过构建对比池化模块，同时结合平均池化和最大池化的优点，提取具有强判别性的对比池化特征，从而提升行人重识别的准确度。1 相关工作传统的行人重识别方法主要分为基于特征表示的方法和基于距离度量的方法。基于特征表示的行人重识别方法主要通过提取颜色、局部二值模式［2］（Local Binary Pattern，LBP）、尺度不变特征变换［
计算机工程 2022年4期2022-04-18
- 突发事件舆论场域通透粘性与情感粒度对信息池化的内生影响研究*
在信息学中，信息池化(pooling)是指信息在传播过程中，由于传播主体或受体在地域、政治、经济、文化及知识等维度存在相似性或相关性，从而导致该类群体在信息扩散过程中形成如同“池塘”的特征。针对网络突发事件，在水纹传播效应作用下，信息扩散过程易于产生信息池化现象，从而导致舆论出现群体极化或舆论偏差，并影响社会稳定及健康发展。关于突发事件舆论的相关研究，国内外现有文献主要集中于从三方面展开。其一，部分学者从突发事件舆论影响因素展开，指出突发事件舆论会受到信息
情报杂志 2022年3期2022-04-12
- 基于多视图并行的可配置卷积神经网络加速器设计
不同模型的卷积、池化、全连接等单元；且未设计片外存储器单元，不适合数据量大的CNN模型。Zhang等采用软硬件协同技术设计CNN加速器，加速效果显著，但该CNN加速器不可配置。Ayat和英伟达的NVDLA主要针对卷积层加速，未结合CNN各个运算单元加速。Ma等结合理论原理，探索卷积层的循环展开方法。Cao设计的CNN加速器在各个运算单元实现了全并行展开，对硬件平台要求较高。综合以上因素，本文进行了如下研究：第一，扩展协处理器的控制访问接口，实现RISC-V
工程科学与技术 2022年2期2022-03-28
- 结合多层池化的卷积神经网络在表情识别中的应用*
等不足，采用多层池化的方式在ResNet101模型上进行优化，加快了模型的收敛并提高了精度。本文在以上方法的基础上对网络结构进行改进，将Inception结构和残差结构相结合，并采用多层池化的方式将不同层的池化结果整合进行优化。实验结果表明，Inception与残差结构结合的网络相比于传统神经网络精度更高，且加入多层池化之后效果更好。1 改进的卷积神经网络1.1 神经网络的结构图片提取的复杂性使得单一尺度的卷积核特征提取不完全，导致当前层的信息丢失，精确度
电讯技术 2022年3期2022-03-27
- 卷积神经网络中的自适应加权池化
大多利用下采样（池化）层减小隐藏层中特征图的尺寸，通过池化层可以获得更大的感受野和更少的内存消耗。目前广泛使用的最大池化、平均池化、跨步卷积（使用步幅大于1的滑动窗口）通过在滑动窗口中采用不同下采样策略得到池化结果。例如，LeNet-5［2］将下采样层作为CNN 中的基本层，通过在滑动窗口中对特征值进行求和以降低图像的空间分辨率；VGG［3］、GoogleNet［4］和DenseNet［5］使用平均池化或最大池化作为下采样层；ResNet［6］采用跨步卷积
软件导刊 2022年3期2022-03-25
- 基于多尺度池化和范数注意力机制的遥感图像检索
出一种基于多尺度池化和范数注意力机制的方法，本方法从通道与空间两个方面减少图像背景信息的干扰，并通过获得遥感图像中不同尺度的目标信息与类别信息来有效提取特征。本文的主要贡献如下：(1)在通道层面上，采用不同最大池化尺寸构建多个不同尺度的池化特征图，将这些特征图进行全局均值池化统一尺寸后，逐像素相加各个特征图来关注多尺度的目标。(2)在空间层面上，将特征图不同通道对应相同空间位置的像素视为一组向量，通过计算多组向量的范数来表达图像的空间信息。特征经过空间注意
电子与信息学报 2022年2期2022-03-09
- 边收缩池化的网格变分自编码器
，从而失去了应用池化操作时增加感受野的能力。变分自编码器(variational auto-encoder, VAE)(Kingma和Welling，2014)作为一种生成网络已广泛应用于各种任务，包括2维的人脸图像修复(张雪菲 等，2020)以及3维的三角网格的生成、插值和浏览(Tan等，2018b)。翟正利等人(2019)对变分自编码器模型及其衍生模型进行了综述。最初的MeshVAE(Tan等，2018b)使用全连接层，需要大量参数，泛化能力往往较弱。
中国图象图形学报 2022年2期2022-02-28
- 设施蔬菜病害识别中的CNN池化选择
主要包括卷积层、池化层和全连接层三个基本操作，卷积层通过卷积核从图像中提取有效特征[6-8]，此外卷积层后常跟一个激活函数，如线性整流单元（ReLU）[9]，以完成对网络的非线性变换；池化层是卷积神经网络中常用的另一个关键操作，经过池化操作可以有效降低特征图的维数，降低计算量同时增强对输入图像变化的鲁棒性，一定程度上可以减少过拟合，卷积神经网络常用的池化类型有最大池化[10]和平均池化[11]，也有一些网络抛弃了池化操作，如ResNet[2]，使用跨步卷积
新一代信息技术 2021年22期2021-12-29
- 基于双池化特征加权结构CNN的图像分类
与鲁棒性[5]。池化操作造成特征信息丢失，卷积神经网络使用较多池化操作是导致特征信息不足的重要原因。针对特征信息不足的问题，孟庆祥等[6]利用池化层将得到的特征图进行过滤，保留重要特征，将提取出来的特征重组以形成高阶语义特征进行图像分类，显著提升了分类精度。张晓丽等[7]通过加权融合方法对图像的不同特征进行加权处理，通过多种特征融合的方式，有效提高了图像分类的简洁性。通过改进卷积神经网络的池化方式，可以达到提高特征提取准确率的目的。刘梦雅等[8]通过获取最
计算机与现代化 2021年11期2021-12-09
- 基于一维堆叠池化融合卷积自编码器的HRRP目标识别方法
学习,通过卷积和池化操作来提取数据的深层结构特征。从HRRP目标识别的研究现状来看,利用CAE进行HRRP识别的研究很少,本研究旨在设计出性能良好的CAE网络,提取HRRP有效深层特征,实现目标识别。为了充分利用HRRP数据的内部结构信息,进一步提高雷达HRRP目标的识别准确率,本文提出了一种一维池化融合CAE(one-dimensional pooling fusion CAE, 1D PF-CAE)。在编码阶段,利用最大池化和平均池化提取特征并融合,两
系统工程与电子技术 2021年12期2021-11-29
- 基于复数卷积-残差网络的雷达杂波幅度统计模型分类
困难[24],以池化算法实现为例,复数平均池化算法可以根据实数平均池化算法的定义直接在复数域扩展得到,但复数最大池化算法却不行。本文引入复数神经网络,利用仿真杂波高分辨距离像(high resolution range profile,HRRP)复数数据,对雷达杂波幅度统计模型分类问题进行研究,完成了以下工作:(1)为构建复数最大池化层,定义并改进了复数最大池化算法,通过CV-CNN对杂波幅度统计模型的分类实验,对比了两种复数最大池化算法和复数平均池化算法
系统工程与电子技术 2021年11期2021-11-10
- 基于小波分解卷积神经网络的病理图像分类①
效率的关键,其中池化层是CNN 最重要的组成部分之一.池化层目的在于减少图像尺寸和参数,提高计算效率,增大感受野以及提高模型的鲁棒性.目前最大值池化和平均值池化是在CNN 中被广泛使用,而这两种传统的池化方法虽然处理速度较快,但会引入边缘光晕、模糊和块效应.最大值池化是最常用的池化方式,由于其处理过程过于简单,使得在激活图上丢失了大量信息,而平均池化会对某些特征图产生模糊效果[2].虽然这些池化方法是高效简单的,但是阻碍了网络学习最优模型参数的潜力[3].
计算机系统应用 2021年9期2021-10-11
- 面向文本分类的多头注意力池化RCNN模型
层卷积和一层最大池化的结构对文本进行特征提取，随后进行分类。康雁等人[11]提出了textSE-ResNeXt集成模型用于文本情感分类，在其中采用了动态卷积核策略，这样卷积操作能更好地适应输入文本，更有效地提取文本数据特征。张曼等人[12]将全卷积的思想引入到字符级文本分类任务中，使用卷积层替换全连接层，且将LRN层添加至卷积池化层后，在加快模型收敛速度的同时也提高了模型分类的准确性。以上各类方法都使用CNN对文本进行特征提取，其问题是卷积操作受限于卷积窗
计算机工程与应用 2021年12期2021-06-23
- 改进深度卷积神经网络及其在变工况滚动轴承故障诊断中的应用
;向宙等以卷积和池化后的特征为权值对反卷积核进行叠加,把信号逐层重构回原信号空间,通过观察重构信号,解释了卷积神经网络对信号提取的实质[8]。深度卷积神经网络通过局部连接、权值共享和池化,不仅具有一定程度的平移不变性,还大大减少了网络的参数数量来避免过拟合[9]。常用的平均池化和最大池化都存在明显的缺点:平均池化是区域内每个活性值的权值相等,使得重要特征模糊化;最大池化只保留区域内的活性最大值,抛弃区域内其他神经元活性值的同时必然丢失大量的信息。针对这个问
西安交通大学学报 2021年6期2021-06-07
- 跨域图像分类中域不变细节特征提取算法
本文提出基于混合池化和样本筛选机制的域不变细节特征提取方法(fine-tuned hybrid pooling for deep domain adaptation，FHPDDA)。首先，本文基于卷积神经网络提出混合池化策略，在原先的池化结果上进一步提取全局特征和局部细节特征。其次，本文设计了一种样本选择机制，基于聚类思想从源域和目标域中选取具有细节特征的样本点，以学习两域间的共有细节特征。1 相关工作WDGRL(wasserstein distance
计算机工程与设计 2021年5期2021-05-20
- 注意力分层双线性池化残差网络的表情识别
积层、最大或平均池化层以及全连接层的传统卷积神经网络（Convolutional Neural Network，CNN）实现面部表情分类。这些方法忽略了层间部分特征交互作用与人脸表情特征学习相互关联的事实，限制了模型的学习能力。本文添加分层双线性池化层来集成多个跨层双线性特征，学习面部表情分类任务中的细微差异，这有助于显著提高面部表情识别能力。此外，面部表情识别需要特别关注带有区分情感的重要信息的眼睛、嘴、眉毛等特定位置的细微变化。因此，可以借鉴人脑处理信
计算机工程与应用 2020年23期2020-12-07
- 基于非对称空间金字塔池化的立体匹配网络
,引入空间金字塔池化(Spatial Pyramid Pooling,SPP)思想优化池化方式,以充分利用图像信息。通过构建非对称空间金字塔池化(Asymmectric SPP,ASPP)模型,在特征提取阶段对图像块进行多尺度特征提取,以期获得更准确的视差估计结果,提高匹配精度。1 相关研究基于卷积神经网络的立体匹配方法主要包括基于CNN的匹配代价学习、基于CNN的视差回归和基于CNN的端到端视差图获取三类。1)基于CNN的匹配代价学习方法主要以图像块之间
计算机工程 2020年7期2020-07-17
- 基于多特征子空间的行人重识别
征空间进行不同的池化。与随机擦除通过遮挡特征图所有通道的部分区域相比，我们的方法可以看作是遮挡某层特征图的部分通道。我们在Market-1501数据集和DukeMTMC-reID数据集上进行了大量的实验。实验结果表明基于多任务学习的多特征子空间方法能够显著提升行人重识别的性能。1)我们为行人重识别问题提出了一个新的简单的多任务方法，该方法是基于多特征子空间和多softmax损失函数的。2)基于上述方法，我们提出了一个新的叫作多特征子空间(Multiple
指挥控制与仿真 2020年3期2020-06-08
- 基于DAPA的卷积神经网络Web异常流量检测方法*
不同，动态地调整池化过程。针对上述文献在异常流量检测中存在的问题，本文在传统的卷积神经网络基础上，构建基于动态自适应池化(Dynamic Adaptive Pooling Algorithm,DAPA)的卷积神经网络Web异常流量检测模型，可以根据特征图的不同，动态地调整池化过程，并在全连接层后连接了一个Dropout层，解决模型在流量特征提取过程中存在的过拟合问题，提高了模型的泛化能力。2 Web异常流量检测模型设计目前，业界网络异常行为检测方法从原理上
网络安全与数据管理 2020年2期2020-03-16
- 基于卷积神经网络的计算机网络流量异常检测
种基于动态自适应池化的卷积神经网络流量异常检测模型，通过进行池化层的分析与调整，根据各种函数映射动态调整池化过程，提高模型的通用性。图1：卷积神经网络特点2.1 卷积神经网络原理传统的感知神经网络通常采用全连接结构，也就是说，每个神经元与前后相邻层中的每个神经元相互连接。这种全连接结构训练网络上的权值和偏差等参数的数量随着网络层数的增加而迅速增加，使其容易出现局部优化和梯度衰落等问题。卷积神经网络是一种典型的深度学习方法，它具有特殊的网络结构，包括局部连接
电子技术与软件工程 2020年23期2020-03-15
- 基于改进的 AlexNet 卷积神经网络的植物叶片识别
入两种不同的全局池化层，通过残差连接和全连接层将得到的特征直接输入到 Softmax 分类器中，实现了兼顾速度的同时提高了识别精度。1 试验数据PlantVillage工程(www.plantvillage.org)给出大量的植物叶片信息，包含了各种各样植物叶片的图像数据。本试验以PlantVillage工程提供的植物叶片数据集作为试验数据，它包含12类不同品种的植物叶片，共计9 568张不同种类植物叶片图像，如图1所示。通过统计样本总数以及各类别样本分布
种子 2020年2期2020-03-12
- 煤矿井下行人检测算法
人检测)，并通过池化因子设计了一种动态自适应池化方法，实现了针对不同池化域的自适应池化操作，从而提高了检测准确性。实验结果验证了Faster RCNN行人检测算法针对不同环境下图像中的行人均具有较好的检测效果。1 Faster RCNN行人检测算法基于深度学习的行人检测算法主要思想是利用卷积和池化等操作对行人图像进行处理，获取卷积特征，采用全连接层作为分类器完成分类检测。Faster RCNN行人检测算法引入RPN(Region Proposal Netw
工矿自动化 2020年1期2020-02-05
- 池化和注意力相结合的新闻文本分类方法
文提出了一种结合池化操作和注意力机制的简单模型,池化操作用来提取文本的有效特征,注意力机制能够关注到文本中的关键信息.实验表明,该模型应用于新闻文本分类任务时具有速度快且正确率高的优势.2 相关工作在深度学习广泛应用于自然语言处理领域之前,统计机器学习是文本分类中的主要方法.常见的机器学习分类算法主要有SVM[3]、朴素贝叶斯[4]、决策树[5]等.一般来说,机器学习算法构造的分类模型首先需要人工设计文本特征,然后训练模型学习特征,最后给出分类结果.在小规
小型微型计算机系统 2019年11期2019-12-04
- 自适应池化卷积神经网络马品种识别研究
取层(降采样层、池化层、取样层)完成的[3]。卷积层和池化层在卷积神经网络中是按先后顺序出现的，并依次完成特征提取的工作。通过连续取征，使神经网络在对输入样本进行识别时具备较高的特征学习能力。卷积层中的特征映射是选取前一网络层中特征像的各角度特征，使其拥有扭转、位移不变的特性[4]。得益于CNN的权值共享能力，因而在不同的平面间的映射可以理解为卷积的过程，计算公式如下:(1)其中，n表示网络层数；K表示卷积核；Mj表示一种输入特征图的组合方式；b表示所有输
计算机技术与发展 2019年10期2019-10-11
- 基于一维卷积神经网络的齿轮箱故障诊断研究
输入层、卷积层、池化层、全连接层和输出层，其中可设置多层卷积层和池化层[4]，提高网络性能.一维卷积神经网络结构如图1 所示.图1 一维卷积神经网络示意图Fig.1 Schematic diagram of one-dimensional convolutional neural network卷积层通过卷积操作提取输入的特征，与数学上的卷积不同，卷积神经网络的卷积核是一个权值矩阵，卷积核对输入局部加权求和，卷积核以一定步长遍历一次输入得到卷积的输出.在卷
测试技术学报 2019年4期2019-07-18
- 基于卷积神经网络的手写数字识别系统的设计
2个卷积层、2个池化层（子采样）和全连接以及输出层，模型结构如图1所示。在本文数字图像识别中用到的卷积是二维卷积核与二维图像做卷积操作［3］，就是卷积核滑动到二维图像上所有位置，并在每个位置上与对应的像素点做内积。一般包括Full卷积、Same卷积和Valid卷积三种。其核心是可以减少不必要的权值连接，引入稀疏或局部连接带来的权值共享策略大大地减少参数量，从而可以避免过拟合现象的发生；此外，由于卷积操作具有平移不变性，使得学到的特征具有拓扑对应性、鲁棒性的
智能计算机与应用 2019年2期2019-05-16
- 聚合CNN特征的遥感图像检索
采用编码[8]和池化[9]的方法进一步构建为聚合特征。在遥感图像检索领域，由于目前公开的遥感数据集规模较小，CNN的参数得不到充分训练，因此相关研究主要集中于将CNN迁移到HRRS图像并进行检索[12-14]。Napoletano[12]使用CNN中的全连接层特征进行检索； Zhou等[13]和Hu等[14]比较了CNN全连接层特征和基于卷积层输出值的聚合特征，并对CNN进行微调； Zhou等[13]还提出一种低维度特征(low dimensional C
自然资源遥感 2019年1期2019-03-29
- 基于深度学习的高分辨率遥感影像建筑物提取方法
缺失，提出自适应池化模型，最后将建筑物特征输入softmax分类器进行提取。1 方法与原理1.1 主成分变换非监督预训练原理(1)采用主成分变换方法最小化重构误差求解特征向量[11](2)式中，IH为H×H单位矩阵；V为协方差矩阵XXΤ的前H个特征向量；V可以表示输入影像块的主要特征。主成分变换初始化卷积神经网络的滤波器组Wh可以表示为Wh=mg1g2(Vh)h=1,2,…,H(3)式中，mg1g2(Vh)表示将向量V映射到矩阵Wh；Vh表示影像的第h主要
测绘学报 2019年1期2019-02-13
- 基于卷积神经网络和池化算法的表情识别研究
络主要由卷积层、池化层、全连接层构成，其中池化层的作用是对卷积层的输出特征进行聚合统计，目的就是提高特征的表征能力、减少特征维度。此外，池化层通过池化算法还可以有效避免网络在训练过程中因参数过多、模型过于复杂产生的过拟合现象。但是传统的池化算法并不能适用于所有情况，最大值池化算法未能考虑池化域中特征值之间的关系，而均值池化算法在特征信息较为集中的情况下会减弱特征信息，随机池化算法虽然考虑了特征值之间的关系但是传给下一层神经网络时，并未包含所有的特征信息。文
计算机技术与发展 2019年1期2019-01-21
- 基于卷积神经网络的宫颈癌细胞图像识别的改进算法
经网络的卷积层和池化层进行优化来达到提高算法识别率的目的[5],赵显达等[6]使用了基于卷积神经网络的平均池化模型实现了人脸识别并取得了较好的结果,时增林等[7]使用基于卷积神经网络的最大池化模型提高了对人群计数方法的识别率.文献[6]在池化过程中将池化域中所有元素都分配相同的权值,文献[7]将池化域中非最大元素的权值全部舍弃.针对文献[6]和文献[7]在池化过程中存在容易损失大量有用信息导致识别率不高的问题,本文提出了一种改进的算法.该算法基于卷积神经网
中国计量大学学报 2018年4期2019-01-18
- 基于自适应池化的行人检测方法
络，通常会引起多池化层导致小目标行人特征信息丢失、单一池化方法导致行人局部重要特征信息削弱甚至丢失等，针对以上问题，基于最大值池化和平均值池化方法，提出了一种自适应池化方法，结合通用目标检测器Faster R-CNN，形成了有效的行人检测器，达到增强行人局部重要特征信息、保留小目标行人有效特征信息的目的。对多个公开的行人数据集进行大量实验，结果表明，与传统的卷积神经网络行人检测器相比，所提方法将行人检测漏检率降低了2%～3%，验证了方法的有效性。新方法改进
河北科技大学学报 2019年6期2019-01-14
- 改进CNN及其在船舶识别中的应用
2]提出来多尺度池化操作，组合使用不同尺度或不同方法的池化。它们都在一定程度上提高了卷积神经网络的性能。1.2 改进的卷积神经网络卷积神经网络常用的池化操作包括平均池化、最大池化和多尺度混合池化，它们都是在图像局部区域进行特征值的抽取，并没有考虑到图像前景对整体特征提取的影响。1.2.1 中心-扩散池化卷积神经网络“中心-扩散池化(center-diffusion pooling，CDP)”卷积神经网络，综合考虑了局部特征和整体前景特征对图像处理的影响。C
计算机工程与设计 2018年10期2018-10-24
- 图像三维重建中的特征点提取
;多层神经网络;池化中图分类号： TP391.41 文献标识码： A 文章编号： 1672-9129（2018）09-0098-02Abstract： The technology of 3D reconstruction is the process of generating a 3D virtual scene from 2D images obtained from ordinary cameras. In this process，
数码设计 2018年9期2018-10-20
- 基于自适应池化的神经网络的服装图像识别
在模型超参数以及池化算法的纠正误差项方面使用了小样本调优的办法，除此之外为了进一步提高服装图像的识别率在图像预处理上增加了水平翻转、颜色光照变化的数据扩充方法。1 网络模型分析1.1 AlexNet网络结构AlexNet在LeNet的基础上把CNN的基本原理应用到比较深的网络中，其主要技术特点如下：1)激活函数选用ReLu(Rectified Linear Unit)，相较之前的激活函数tanh(Hyperbolic Tangent)和sigmoid，Re
计算机应用 2018年8期2018-10-16
- 基于卷积神经网络的花朵图片分类算法
卷积过程1.2 池化层图3 最大池化和均值池化1.3 全连接层全连接层在整个神经网络中起分类的作用。全连接层前一层是卷积层时，全连接层可以看做是h×w的全尺寸卷积，h和w为前一层输出的大小。如果前一层是全连接层，则转化为卷积核为1×1的全连接。全连接层的参数数量可以占整个网络的80%以上，所以全连接会导致严重的参数冗余问题，降低训练速度。并且全连接层为了实现全连接将特征值转化为一个多维的数组，破坏了图像的空间结构信息，影响分类的准确率。Softmax层作为
计算机与现代化 2018年9期2018-09-17
- 基于卷积神经网络的草莓叶部白粉病病害识别
寸选择以及采样层池化方法选择入手，设计卷积神经网络模型，以实现对草莓叶部白粉病病害的识别。试验使用的计算机CPU为Intel Core i7-7700k，内存为32 G，操作系统为 Windows 10，采用的框架为Tensorflow。在Tensorflow上搭建卷积神经网络模型，部分参数设置：学习率0.005、冲量0.9、权值衰减0.000 5、批处理大小64。采用正确识别率P作为结果的评价标准，计算公式如下：(1)重复使用较小的卷积核可以减少参数训练
江苏农业学报 2018年3期2018-07-06
- 用于手写汉字识别的文本分割方法
后的文本图片进行池化处理，然后运用并查集算法得到每行为一个连通区域，最后调整每行上下的孤立区域的归属，最终把多行文本图片分割为单行，为后期的汉字列分割做准备。此方法虽然用行分割，但也為汉字的列分割提供了新的思路。关键词： 手写汉字识别；池化；文本分割；并查集Abstract：In this paper a text segmentation method for handwritten Chinese characters is developed whi
智能计算机与应用 2018年2期2018-05-23
- 改进的Dropout正则化卷积神经网络*
献[6]提出了在池化层运用最大值Dropout方法。而在测试阶段采用Probabilistic weighted pooling模型平均，实验得到了很好的效果，但该方法仅考虑了Dropout抑制的概率p和被保留的概率1-p的影响，并未考虑池化区域内每个单元值对整个区域的影响。对此,本文提出了一种新的模型平均方法，训练阶段使用最大值Dropout，而在测试阶段结合池化区域内单元值所占的概率和p值求解模型预测的平均值，以同样结构的CNN进行实验并取得了更好的效
传感器与微系统 2018年4期2018-04-09
- 基于矩阵2-范数池化的卷积神经网络图像识别算法
基于矩阵2-范数池化的卷积神经网络图像识别算法余 萍， 赵继生(华北电力大学电子与通信工程系，河北 保定 071003)卷积神经网络中的池化操作可以实现图像变换的缩放不变性，并且对噪声和杂波有很好的鲁棒性。针对图像识别中池化操作提取局部特征时忽略了隐藏在图像中的能量信息的问题，根据图像的能量与矩阵的奇异值之间的关系，并且考虑到图像信息的主要能量集中于奇异值中数值较大的几个，提出一种矩阵2-范数池化方法。首先将前一卷积层特征图划分为若干个互不重叠的子块图像，
图学学报 2016年5期2016-12-02
- 增强层次的卷积神经网络模型研究
基于随机策略的池化层本文基于随机池化策略构建随机池化层， 替代传统池化层， 在保留最大池化优势的基础上添加随机特性， 可以更好地防止模型训练时出现过拟合.其公式如下：（1）其中为多项式分布位置采样概率，为i位置的激活值，是特征映射图第j个池化区域。随机池化介于最大值池化和均值池化之间，相当于在池化区域上进行不同的形变再进行最大池化操作，在平均意义上，同均值池化类似；在局部区域中，服从最大池化策略。3 基于侧抑制机制的归一化层侧抑制机制是普遍存在于视觉系统
数字技术与应用 2016年9期2016-11-09
- 基于序的空间金字塔池化网络的人群计数方法
于序的空间金字塔池化网络的人群计数方法时增林1叶阳东1吴云鹏1娄铮铮1视频中的人群计数在智能监控领域具有重要价值.由于摄像机透视效果、图像背景、人群密度分布不均匀和行人遮挡等干扰因素的制约，基于底层特征的传统计数方法准确率较低.本文提出一种基于序的空间金字塔池化（Rank-based spatial pyramid pooling，RSPP）网络的人群计数方法.该方法将原图像分成多个具有相同透视范围的子区域并在各个子区域分别取不同尺度的子图像块，采用基于序
自动化学报 2016年6期2016-08-22
- 一种卷积神经网络的图像矩正则化策略
：卷积神经网络的池化策略包含极大池化和平均池化，极大池化选择池化区域中的最大值，极易出现过抑合现象；平均池化对池化区域中所有元素赋予相同权重，降低了高频分量的权重。本文提出将矩池化作为卷积神经网络的正则化策略，矩池化将几何矩概念引入到卷积神经网络的池化过程中，首先计算池化区域的中心矩，然后根据类插值法依概率随机地从中心矩的4个邻域中选择响应值。在数据集MNIST、CIFAR10、CIFAR100上的实验结果表明随着训练迭代次数的增加，矩池化的训练误差和测试
智能系统学报 2016年1期2016-07-01
- 基于ArcGIS Server的池化与非池化服务研究
Server的池化与非池化服务研究程柱1∗，高飞1，胡小华2(1.合肥工业大学土木与水利工程学院，安徽合肥 230009； 2.合肥市国土资源局信息中心，安徽合肥 230001)介绍了ArcGIS Server的基本知识和体系结构，分析了ArcGIS Server中服务器对象池化与非池化服务的特点，并通过实例比较两种服务之间的不同点以及各自优点和缺点，指出了它们各自的应用场合，为开发WebGIS系统提供参考。ArcGIS Server；WebGIS；池化
城市勘测 2010年4期2010-04-19