杨茂昌 陈鹏辉 杜明慧 杨光松 叶秋波
收稿日期:2023-07-25
DOI:10.19850/j.cnki.2096-4706.2023.22.037
摘 要:信号调制的识别是测控物联网中的一项重要任务。由于具有强大的特征学习能力,残差网络(ResNet)作为一种著名的深度学习技术,被成功地应用于信号调制的識别,并显示出超强的优势。然而,标准的ResNet是通过相同结构的残差单元来设计的,这限制了对多层次特征的捕获,导致识别性能下降。文章设计了一个由不同结构的残差单元组成的残差堆栈,提出一个改进的ResNet网络模型。仿真结果证明,提出的方法可以捕捉多层次的特征,达到96.1%的识别率。
关键词:深度学习;调制识别;卷积神经网络;残差神经网络
中图分类号:TP391.4 文献标识码:A 文章编号:2096-4706(2023)22-0169-06
Research on a Wireless Signal Modulation Identification Method Based on Deep Learning
YANG Maochang1, CHEN Penghui2, DU Minghui1, YANG Guangsong2, YE Qiubo2
(1.China Quality Certification Centre, South China Laboratory, Guangzhou 510663, China;
2.School of Ocean Information Engineering, Jimei University, Xiamen 361021, China)
Abstract: The identification of signal modulation is an important task in the measurement and control Internet of Things. Due to the powerful feature learning capability, Residual Network (ResNet), a well-known Deep Learning technology, is successfully applied in signal modulation identification and shows superiority. However, standard ResNet is designed by the residual units of the same structure, which limits the capture of multi-level features, resulting in recognition performance decline. This paper designs a residual stack composed of residual units with different structures, and proposes an improved ResNet network model. The simulation results show that the proposed method can capture multi-level features and reach 96.1% recognition success rate.
Keywords: Deep Learning; modulation recognition; Convolutional Neural Networks; Residual Neural Network
0 引 言
物联网(Internet of Thing, IoT)是一个由互连对象组成的系统,具有通过Internet收集、记录、存储和共享信息的能力。该技术的新兴趋势和成功在于它能够在网络内通信和传输数据,从而使其能够为众多传统问题创建更高效和“智能”的解决方案。
IoT系统网络层中的挑战之一是组成设备之间的有效无线通信。系统的性质和架构通常需要使用不同的调制格式,从而导致接收器面临分类挑战。所有这些共同影响网络的整体复杂性。
无线通信终端种类繁多、调制方式多样、无线信道电磁环境复杂,而自动调制分类(Automatic Modulation Classification, AMC)是对信号中使用的调制方案进行分类的过程。它是非合作通信的核心技术,是信号接收和信号解调之间的中间步骤。调制分类器的设计主要包括两个关键步骤:信号预处理和有效分类算法的选择。预处理包括根据分类算法的要求,估计构成载波频率、信号功率和其他统计信号信息的信号统计信息。
AMC目的就是对接收信号进行检测以获取其调制信息,以便对信号做进一步处理。物联网的基础是数据的采集和传输中,要求物联网基站兼容多种数字调制类型,以满足不同调制方式终端的数据传输需求。AMC依赖于调制识别(Modulation Recognition, MR)技术,在军事应用和实际民用中已有广泛使用,例如电子对抗(电子战)、威胁分析、干扰识别、频谱管理等。
为了对空中调制信号进行识别,本文采用深度学习的方法进行自动调制识别,设计不同的人工神经网络,解决识别效果对人工选择过分依赖的问题,以及现有AMC方法中,拟合能力有限、时效性差的问题。
1 调制识别及系统框图
通信的目的是实现信息的传递。首先将信号进行调制,然后通过信道进行传输,在接收端进行解调,恢复出原信号。但是要想对信号进行正确的解调,首先得知道在接收端所接收到的信号是哪种调制方式,然后才可以采取相应的解调方法进行解调。这就需要在解调之前进行调制识别,可见信号调制识别是通信系统中的一个重要组成部分。通信系统的部分框图如图1所示。
IoT系统框图如图2所示,系统通过无线信道接收IoT设备发送的无线信号,通过软件无线电进行AD转换、下采样后,分成IQ两路信号进行基带解调,然后对其进行调制识别。
2 基于深度学习(DL)的调制识别
特征选择是决定一个系统调制识别性能好坏的重要因素。但传统的调制识别方法在这方面有很大缺陷。由于DL在图像识别等领域依靠其自主学习图像特征的优势取得了不错的效果,亦可将深度学习方法应用到调制识别领域。对于DL,特征提取是在多个层次自动学习的,DL模型可以从信号数据中自主学习和提取特征,然后使用一定的方法预测出信号的调制类型。基于DL的调制识别框图如图3所示[1]。
基于DL的调制识别中,完成调制任务的重点就在于神经网络,神经网络自主学习信号的特征,然后利用深度学习分类算法对调制方式进行分类,但是具体神经网络提取到了信号的什么特征以及内部是如何学习的我们是不知道的,可以将其看作一个黑匣子,我们输入接收到的信号,输出就得到了信号的调制类型,所以使用不同的神经网络,调制识别的效果将不同。我们的研究重点就是如何设计出调试识别性能好的神经网络结构。
基于DL的调制识别的具体实现过程如图4所示。
将无线电信号的数据集分为训练集和测试集,其中数据集带有调制类型的标签,首先对训练集的信号进行预处理,然后使用神经网络对信号进行训练,自主学习信号的调制类型特征,接着使用训练后的神经网络对测试集数据的信号进行识别,预测出调制类型。
3 基于改进残差神经网络的调制识别方法
3.1 残差神经网络
为了对更深层次的网络进行有效的训练,提出了深度残差网络(ResNet)的思想[2]。在深度残差神经网络中,大量使用了跳过或旁路连接的概念,解决了深层网络的训练问题。这使得计算机识别领域和时间序列音频任务[3]都有了显著的改进。在研究用于时间序列无线电分类的深度残差神经网络中,发现可以利用残差网络研究调制识别问题,并与卷积神经网络(CNN)相比获得了更好的性能[4]。
残差神经网络由残差堆栈构成,而残差堆栈由残差单元组成,残差单元一般由卷积层和非线性激活函数ReLU共同构成。由于卷积神经网络深度越深所拟合的映射函数越复杂,复杂的映射函数存在反向转播困难的情况,所以网络层数存在理论阈值,在阈值深度的范围内,随着网络层数增加模型将会更加优化。
为了解决深度网络存在的问题,He[5]首次提出了殘差神经网络,在网络中引入了恒等映射如图5所示。
原始神经网络的一个神经单元要学习的目标映射是H(x),H(x)为输入和输出间的函数关系,这个目标映射可能太过于复杂难以学习。而残差神经网络让神经单元不直接学习目标映射H(x),而是学习一个残差F(x) = H(x) - x,其中x为输入,F(*)为卷积运算。这样原始的映射变成了F(x) + x。一般F(x)为非线性映射、x为线性映射,这样将一个很难学习的目标映射H(x)分成了线性映射和非线性映射的组合,这样的结构组成了原始的残差单元,特别地x→x是最优的学习策略[5]。
假设第l个残差单元的输入为xl,那么下一层的输出为:
(1)
其中,R(xl,Wl)为残差函数,Wl为该残差函数对应的权重参数,f (*)为非线性激活函数ReLU。
3.2 改进的残差神经网络
残差网络设计的重要方向中包括了对残差模块的结构体系设计,合理的减轻梯度消失/爆炸的问题[6],在此方向已经取得了一些最新进展[7]。以身份映射作用作捷径连接和身份附加后激活是信息传输通畅的必要条件[5],理论上任何较浅单元的特征都可以用任何较深单元的特征表示,这样的特性会在深层网络中得到很好的利用,这也是残差神经网络作用于深层神经网络的一大优势。以网络宽度为研究的ResNeSt,并以组卷积[8]利用多径结构进行传输计算,可以在不同的路径上提取细致程度不同的特征信息。
鉴于上面提到的一些残差网络变形,我们提出通过构建残差模块中单元的结构多样性来提取特征信息的方法,来改良残差神经网络并应用到无线信号调制方式识别中,可以解决基准残差神经网络在某一些类目上识别效果不佳的情况[9,10]。
在标准的残差单元中的反向传播计算如下,其中Q为前向算法结果,xl为残差单元输入,F(*)为卷积算法结果,xl为残差单元。
(2)
如果改变其捷径接连的结构,则式(1)反向传播也将会随着结构的改变而改变,He[5]对捷径结构进行了很详细的讨论,我们在这可以分类为非线性结构与线性结构。
线性结构公式将由式(1)更新如下,其中α为常数:
(3)
非线性结构公式将由式(1)来更新,其中G(*)为捷径传输上的算法结果:
(4)
式(2)相比于式(3),在深层残差神经网络上线性结构的方向传播更加快捷,基于CIFAR-10数据集的实验[5]中,当偏置项α为1时,即恒等映射是最佳的捷径连接结构如式(1),这样的恒等映射将作为我们后续搭建的残差神经网络单元的捷径连接结构。
我们在全连通层中使用自归一化神经网络[11],并且将标度指数线性单元(SELU)函数作为激活函数、平均响应标度初始化(MRSA)[12]和Alpha Dropout,对传统的ReLU+Dropout方法进行了改进。
接下来我们对ResNet流行结构进行调整分析,ResNet-B[13]更改了ResNet的下采样块,ResNet-C[14]将输入7×7卷积替换为三个的3×3卷积,然后在卷积层中加入合适数量的激活函数的结构。
通过对残差神经网络中的残差单元的捷径分析、残差单元的数量分析和残差单元的结构分析,我们提出了新的残差堆栈结构,命名为ResNet-U4,如图6所示。
残差堆栈由三个线性残差单元和一个非线性残差单元组成,本论文中的深度残差神经网络由六个相同结构的残差堆栈构成。
4 实验及分析
4.1 实验参数设置
本实验使用的调制识别数据集为通过分层抽样法从数据集RADIOML 2018.01A[15]获得的30%数据集。数据集数据包含24种类型的信号,分别为16QAM、32QAM、64QAM、128QAM、256QAM、8PSK、16PSK、32PSK、16APSK、32APSK、64APSK、128APSK、BPSK、OOK、GMSK、FM、4ASK、8ASK、OQPSK、QPSK、AM-SSB-SC、AM-DSB-SC、AM-SSB-WC、AM-DSB-WC。数据集在制作时为了能仿真效果更贴近真实通信环境,加入不同白噪声使得每一种信号调制都包含了从-20至30共26种不同的信噪比。每种类型的信号生成21 840个样本,共524 160个样本进行训练和验证,另外每种信号生成9 360个样本,共224 540个样本作为测试集。本文中的实验都在配置为lntel(R) Core(TM)i7-9750H CPU、lntel(R)UHD Graphics 630 GPU0、NVIDIA GeForce GTX 1650 GPU1和16 GB内存的笔记本电脑上实现。
实验通过Anaconda环境,使用Spyder 4.0.0版本编译器、cuDNN 7.6.5版本、Keras-GPU 2.2.4版本、NumPy 1.18.1版本、PyTorch 1.2.0版本、TensorFlow 1.14.0版本、TensorFlow-GPU 1.14.0版本、Seaborn 0.10.0版本。
卷积层激活函数使用ReLU函数、全连接层激活函数使用SELU函数、损失函数使用categorical crossentropy交叉熵函数、模型优化器使用Adam优化器、AlphaDropout函数参数设置为0.3、每一层卷积核数量设置为32个、学习率设置为0.01、batch size设置为800、训练轮次设置100轮,实验模型共计182 584个神经元。
4.2 实验结果分析
4.2.1 残差单元数量对识别结果的影响
本节分析残差神经网络的残差单元数量对识别结果的影响,在残差堆栈层数固定的情况下,设计了多个不同数量的ResNet Unit构成的残差神经网络函数并且使用模型未接触过的数据作为测试集进行模型的测试,通过模型在测试集上每种信噪比上的整体准确率来评估模型性能同时也观察模型在不同调制方式上的识别准确率情况来分析模型性能。本实验设计并对比了三种不同数量单元的ResNet,固定每个ResNet Unit结构不变,设计残差模块函数ResNet Unit数量分别为2、3、4,分别对应ResNet Unit-2、ResNet Unit-3和ResNet Unit-4。使用相同的训练集,学习率为0.001,同时模型的超参数不改变,通过训练得到相关数据,如图7与图8所示。
分析图8中ResNet Unit-2、 ResNetUnit-3和ResNet Unit-4在不同调制类型识别的表现,其中ResNet Unit-4准确率曲线大部分都在ResNet Unit-2准确率曲线之上,特别是在8PSK、128QAM、AM-SSB-WC调制类型上的表现明显的提高,详细数据如表1所示。
在不同信噪比的模型表现也不同,特别是从信噪比大于4 dB开始,如图8所示,ResNet Unit-4模型的准确率高于ResNet Unit-2和ResNet Unit-3模型的准确率。
残差神经网络中通过捷径传输将许多支线连接后面的神经层,使后面的层能够学习残差值,在使用ResNet的结构后能够很好地拓展深度神经网络的理论阈值,显然上述实验证明在合理的残差神经网络结构下,越深的网络模型拥有更好的性能表现。
4.2.2 卷积核尺度对识别结果的影响
本节分析卷积核尺度对ResNet-U4识别结果的影响。在网络结构固定的情况下,设计将第1层到第6层的残差堆栈的卷积核分别从3×3改为5×5,利用模型在每个信噪比上的整体精度来评价不同方法的性能。本实验设计并比较了六种不同组成的卷积核,使用相同的训练集,学习率为0.001。如表2所示,每个数字对应于卷积核的大小。
对算法进行训练,使损失最小化,直至网络收敛,模型识别准确率与信噪比关系如图9所示。
尽管卷积核的大小与卷积核感受视野存在关系,其中越大的卷積核拥有越大的感受视野,不过在论文[14]中提到并不是越大的卷积核越好,可以看出,各模型的精度从信噪比0 dB开始迅速提高,在信噪比10 dB开始收敛,由于模型使用了更多的残差单元,这使得这些细微的特征不是很重要,对模型的影响很小。同时,更大的卷积核的使用增加了网络中参数的数量,在实际应用中需要更多的硬件计算资源。这个实验证明了在深度神经网络下使用大卷积核不能在高信噪比环境下有效的提取信号特征。结合小型和大型卷积核的优点,3×3卷积核参数更轻,更容易训练和迭代。
5 结 论
针对残差神经网络做了分析,从残差神经网络的单元结构和数量两个角度出发,提出了一种多结构残差神经网络ResNet-U4并且应用于无线电信号调制识别领域。在数据集RADIOML 2018.01A上做了实验并证明模型的稳定性。我们在BPSK、128QAM、QPSK、AM-SSB-WC和128APSK调制类上对比了前人的研究成果,发现我们的识别精度大大提高,并且在高信噪比下网络的识别性能提高了4个百分点。
本论文提出的基于深度学习的无线信号调制识别方法能够有效地应用于物联网系统中。通过使用适当的网络架构和训练算法,可以利用深度学习技术对不同的无线信号调制方式进行准确的识别。
总之,基于深度学习的无线信号调制识别方法在物联网系统中具有广泛的应用前景,对提高无线通信系统的性能和安全性具有重要意义。未来的研究方向可能包括进一步优化网络架构,扩展适用的信号调制类型范围,并进一步提升算法的效率和准确性。
参考文献:
[1] PENG S,JIANG H,WANG H,et al. Modulation classification based on signal constellation diagrams and deep learning [J].IEEE transactions on neural networks and learning systems,2018,30(3):718-727.
[2] HE K,ZHANG X,REN S,et al. Deep residual learning for image recognition [C]//Proceedings of the IEEE Computer Society Conference on Computer Vision and Pattern Recognition:2016-Decem.Las Vegas:IEEE,2016:770-778.
[3] OORD A V D,DIELEMAN S,ZEN H,et al. WaveNet: A Generative Model for Raw Audio [J/OL].arXiv:1609.03499v2 [cs.SD].(2016-08-19).https://arxiv.org/pdf/1609.03499.pdf.
[4] 宁暑光.基于特征提取与学习的无线通信数字调制方式自动识别方法研究 [D].合肥:合肥工业大学,2019.
[5] HE K,ZHANG X,REN S,et al. Identity mappings in deep residual networks [C]//European conference on computer vision. Cham:Springer,2016:630-645.
[6] BOTTOU L. Large-scale machine learning with stochastic gradient descent [C]// Proceedings of COMPSTAT 2010 - 19th International Conference on Computational Statistics,Keynote,Invited and Contributed Papers. Heidelberg:Physica-Verlag HD,2010:177-186.
[7] XIE S,GIRSHICK R,DOLLAR P,et al. Aggregated residual transformations for deep neural networks [C]//Proceedings-30th IEEE Conference on Computer Vision and Pattern Recognition,CVPR 2017.Honolulu:IEEE,2017:5987-5995.
[8] KRIZHEVSKY A,SUTESKEVER I,HINTON G E. ImageNet classification with deep convolutional neural networks [J].Communications of the ACM,2017,60(6):84-90.
[9] OSHEA T J,ROY T,CLANCY T C. Over-the-Air Deep Learning Based Radio Signal Classification [J].IEEE Journal on Selected Topics in Signal Processing,2018,12(1):168-179.
[10] DWIVEDI N,SINGH D K,KUSHWAHA D S. Weapon classification using deep convolutional neural network [C]//2019 IEEE Conference on Information and Communication Technology,CICT 2019.ALLAHABAD:IEEE,2019:1-5.
[11] KLAMBAUER G,UNTERTHINER T,MAYR A,et al. Self-Normalizing Neural Networks [J].Advances in neural information processing systems,2017,30:972-981.
[12] HE K,ZHANG X,REN S,et al. Delving deep into rectifiers:Surpassing human-level performance on imagenet classification [C]//Proceedings of the IEEE International Conference on Computer Vision:2015 Inter.Santiago:IEEE,2015:1026-1034.
[13] GLOROT X,BENGIO Y. Understanding the difficulty of training deep feedforward neural networks [C]//Proceedings of the thirteenth international conference on artificial intelligence and statistics. Sardinia:JMLR,2010,9:249-256.
[14] SZEGEDY C,VANHOUCKE V,IOFFE S,et al. Rethinking the Inception Architecture for Computer Vision [C]//2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR).Las Vegas:IEEE,2016:2818-2826.
[15] TRIDGELL S,BOLAND D,LEONG P H W,et al. Real-time automatic modulation classification [C]//2019 International Conference on Field-Programmable Technology (ICFPT).New Orleans:IEEE,2019:299-302.
作者簡介:杨茂昌(1972.01—),男,汉族,广东梅州人,高级工程师,本科,研究方向:测控物联网、电力通信检测、质量控制技术。