基于深度学习的无线电信号分类

刘金霞

(甘肃省无线电监测站, 甘肃 兰州 730000)

以自主的方式快速地进行无线电信号分类是频谱干扰监控、无线电故障检测、动态频谱访问、适机认知无线网络以及众多监管和防御应用的关键. 将复杂的高数据率的射频信息浓缩为明细与准确的无线电信号类别,是当今众多无线电传感和通信系统中的一个关键组成部分.

传统的无线电信号识别算法有三种:基于似然方法(likelihood-based,LB)[1-5]、基于特征方法(feature-based,FB)[6-10]和人工神经网络方法(artificial neural network,ANN)[11-15].LB比较每个可能假设的似然比与阈值,这是从观测波的概率密度函数推导出来的.在FB方法中,选择并观察几个特征来进行决策.LB和FB方法都需要进行精确的预处理,且仅用于区分少数几种调制类型.ANN的网络结构如多层感知器(multiple layer perception,MLP)被广泛应用于调制型分类器.与LB和FB技术人工选择阈值不同,ANN可以自适应、自动地确定阈值，MLP在区分AM、FM、ASK和FSK等调制类型上表现良好.MLP的层与层之间采用全连接,因此参数量较大,计算时间长且易过拟合.

近年来,深度神经网络在图像、语音和自然语言处理等领域的研究中发挥了重要作用,表现出比传统机器学习算法更卓越的性能.深度学习的思想被引入到调制分类中,使用卷积神经网络(CNN)来区分10种不同的调制类型[16].仿真结果表明,与基于专家提取特征的FB方法相比,CNN不仅显示了更好的精度结果,而且在检测各种调制类型方面提供了更大的灵活性.残差网络(ResNet)[17]被引入,通过在网络的不同层之间创建捷径来加强深度神经网络中的特征传播.O’Shea等[18]应用Resnet体系结构成功地区分了24种不同的调制类型.

基于深度神经网络的信号分类,训练数据主要分为两类：基于同相分量信号和正交分量信号组成的样本(in-phase and quadrature components,IQ)[18-19]与基于中间结果如基于星座图[20-21]组成的样本.本质上星座图是依靠专家经验提取的特征,因此基于星座图作信号分类无法发挥出深度神经网络最重要的优点之一,即可以从高维非结构化数据中自动学习特征,因此本文采用原始的IQ数据作为输入数据.

本文沿着使用深度神经网络的道路,提出一种新的神经网络架构,对IQ数据进行信号分类.实验结果显示在10 dB时对24种信号的分类准确率达到了95.69%,揭示了该网络架构的有效性与实用性.

1 训练数据

本文使用一个开源的训练集,该训练集使用GNURadio生成[18,20],每条数据对应一个信噪比,信噪比以2 dB间隔从-20 dB到30 dB,共26个枚举值.每条数据对应一个信号类别,共24种不同的信号.该训练集共包括2 555 904条数据,单一信噪比与单一信号类别对应4 096条数据.本实验将其中80%即3 276条作为训练数据,剩余20%即820条作为评估数据.24种信号分别为：16APSK,32QAM,FM,GMSK,32APSK,OQPSK,8ASK,BPSK, 8PSK,AM-SSB-SC, 4ASK, 16PSK, 64APSK,128QAM,128APSK,AM-DSB-SC,AM-SSB-WC,64QAM,QPSK,256QAM,AM-DSB-WC,OOK,16QAM.

2 神经网络结构

如图1所示,在深度残差网络中,跳过连接(skip connection)或旁路连接(bypath connection)的概念被大量使用,使得特征可以通过网络在多个尺度和深度上运行.这导致了计算机视觉性能的显著改善,也被有效地用于时间序列音频数据.

图1 残差单元

如图2所示,群卷积神经网络执行通道级可分离卷积,特征图中的每个空间映射与一个独立的空间核作互相关运算,这样可以获得更丰富的特征.

图2 群卷积神经网络Fig.2 Group convolutional neural network

本文使用的残差栈如图3所示.该残差栈先经过一个1*1的卷积层,然后经过两个残差单元后,最后进行一个最大池化.

图3 残差栈Fig.3 ResNet stack

本文的神经网络参数见表1.首先使用2*1、通道为32的CNN卷积层,并使用群卷积神经网络,将输入变换为32*1 024.然后经过6个残差栈,这些残差栈的1*1的卷积层有32个通道数并采用群卷积神经网络,最大池化层的池大小均为1*2,步长高度方向为1、宽度方向为2.经过6个残差栈后,输出为32*16.然后经过一个全连接层变换为128,最后再经过一个全连接层+softmax变换为24个信号类别.

表1 神经网络结构

3 性能分析

实际通信过程很少关注信噪比小于-10 dB的信号,因此本文实验舍弃了小于-10 dB的训练数据.同时为了与文献[18]中的数据作比对,实验也舍弃了大于18 dB的训练数据,只对-10 dB到18 dB的信噪比分别进行分类训练,共训练15次.对每个信号叠加一个符合高斯分布的均值为0、标准差为0.000 1的白噪声,这使得每个样例都有一个新的、不相关的随机通道初始化.

损失函数使用交叉熵,优化算法使用批次大小为4的小批量随机梯度下降算法.每次训练运行30个时期(epoch),取其中评估集中损失函数最小的模型作为最终模型,相当于使用了早停(early-stop)策略.

图4显示了按照不同信噪比下各种调制模式的正确分类率.文献[18]中的图12是使用残差神经网络得出的实验结果.该神经网络使用6层残差神经网络,然后使用2个全连接层,最后再经过一个全连接层+softmax变换为24个信号类别.与文献[18]中的图12相比,本文模型的训练结果有着显著的提升,比如对较简单的4ASK,在0 dB时文献[18]中的正确分类率约为67%,本文模型约为71%,精度提升了约4%.对较复杂的256QAM,在18 dB时文献[18]的正确分类率约为84%,本文模型约为87%,精度提升了约3%.

图4 不同信噪比下的各种调制模式的分类正确率Fig.4 Correct classification probability in different SNR and different modulation type

需要特别指出的是,虽然某些调制模式在低SNR下的分类正确率较低,比如256QAM在0 dB时分类正确率约为25%,然而这并不意味着该模型没有实用价值.在真实环境下,256QAM所需要的SNR是很高的,比如要达到误码率百万分之一,SNR就需要达到24 dB.而本文模型显示,当SNR为18 dB时,256QAM的分类正确率已经达到了87%,因此该模型具有良好的实际应用价值.

图5显示了不同信噪比下的所有调制模式的综合正确分类率.图6是文献[16]中使用几种不同的神经网络得到的实验结果,其中性能最好的CNN2使用了2个卷积层,然后使用1个全连接层,最后再使用1个全连接层+softmax变换为11个信号类别,并使用丢弃法(dropout)作正则化以防止过拟合.将图5与图6对比可以看出,在大于10 dB时,本实验的正确分类率要优于文献[16]中的CNN2等网络,但是在小于10 dB时本实验的分类准确率较低.这主要是因为文献[16]中使用的是11种较简单的调制模式(其中包括8种数字调制BPSK、QPSK、8PSK、QAM16、QAM64、BFSK、CPFSK、PAM4和3种模拟调制WB-FM、AM-DSB、AM-SSB),而本文使用的是24种调制模式,其中包含了比较复杂的调制模式如128QAM、128APSK、256QAM等,这些复杂调制模式在低信噪比下的识别率较低.如前面提到的,这些复杂信号的实际工作环境需要较高的SNR,因此大于10 dB时较高的分类正确率表明本文模型比文献[16]中的模型更优.

图5 不同信噪比下的所有调制模式的综合分类正确率 Fig.5 Overall correct classification probability in different SNR

图6 分类器性能vs信噪比[16]Fig.6 Classifier Performance vs SNR[16]

图7是文献[19]中使用几种不同的神经网络得到的实验结果,其中性能最好的ResNet使用了3个残差栈,然后经过2个全连接层,最后再经过一个全连接层+softmax变换为11个信号类别.将图5与图7对比可以看出,在大于6 dB时,本实验的正确分类率要优于文献[19]中的CNN4、DenseNet、CLDNN、LSTM与Resnet等网络,但是在小于6 dB时本实验的精度较低.这主要是因为文献[19]中使用的是10种较简单的调制模式(其中包括8种数字调制BPSK、QPSK、8PSK、QAM16、QAM64、BFSK、CPFSK、PAM4和2种模拟调制WB-FM、AM-DSB),而本文使用的是24种信号,其中包含了比较复杂的信号如128QAM、128APSK、256QAM等.与上面的分析类似,可得出结论,大于10dB时较高的分类正确率表明本文模型比文献[19]中的模型更优.

图7 所有模型的准确率vs信噪比[19]

图8是文献[21]中几种不同的神经网络得到的实验结果,其中性能最好的DrCNN由两个CNN组成,第一个CNN以处理IQ数据的方式区分简单调制模式,然后第二个CNN通过以处理图片的方式区分16QAM和64QAM.第一个CNN一共有6层,包括2个卷积层和4个全连接层；第二个CNN共有8层,包括5个卷积层和3个全连接层.将图5与图8对比可以看出,在大于10 dB时,本实验的正确分类率与文献[21]中的DrCNN基本持平,而在小于10 dB时本实验的精度较低.这主要是因为文献[21]只有8种调制模式(BPSK,QPSK,8PSK,GFSK,CPFSK,PAM4,16QAM,64QAM),在使用星座图判别16QAM和64QAM时比较容易判别出来,如果像本文的数据集一样,加上较复杂的信号如128QAM、128APSK、256QAM,其判断难度会大大增加,准确率必然会有所下降.因此大于10 dB时基本持平的分类正确率表明本模型比文献[21]中的模型更优.

图8 各种信噪比下不同网络的测试准确率[21]Fig.8 Test accuracy of different networks in various SNRs[21]

4 结论

本文提出一种基于残差神经网络和群卷积神经网络的网络结构,对IQ数据进行信号分类,实验结果表明该神经网络取得了比当前能找到的参照基准高约3%的准确率,揭示了该网络架构的有效性,且具有良好的实际使用价值.

文献[19]的实验表明，对于无线电信号这类序列数据,LSTM也有良好的性能,然而LSTM由于其必须顺序处理的特性导致其性能极低,并不适合时延要求严格的无线电信号识别领域.最近几年涌现的BERT,可用于高效处理序列数据,且在与无线电信号有着诸多相似之处的自然语言处理领域取得了巨大的成功.后续将继续研究是否可以将BERT应用于无线电信号识别领域,以取得更好的性能.