基于量子粒子群优化极限学习机的频谱感知算法

2021-01-26 11:34:42郭熠张晨洁郭滨汤云琪
关键词:学习机信噪比量子

郭熠,张晨洁,郭滨,汤云琪

(长春理工大学 电子信息工程学院,长春 130022)

随着通信行业的发展和人们对网络速度和质量的要求越来越高,无线电频谱资源愈加稀缺[1],各国根据无线电业务的技术特点、业务能力、宽带需求等因素分配固定频段给固定业务。使得频谱利用率很低,即使是繁忙的频段也有很多可利用的空闲频谱。减少频谱浪费,提高频谱利用率成为了亟待解决的问题[2],为此提出了认知无线电技术,以频谱感知技术为核心,快速准确地检测频谱空洞实现空闲频谱利用。目前的频谱感知算法在高信噪比下都能取得良好的识别效果,但在低信噪比下识别性能并不理想[3-5]。

从分类角度看频谱感知可以看作是一个二元分类问题,在高信噪比下可以看作线性分类问题,传统频谱感知算法通过设定一个线性阈值就可以很好地解决该问题。在低信噪比的无线信道中,频谱感知研究方向在于解决非线性阈值信号分类问题,正是机器学习算法研究的问题[6]。在文献[7]中,作者提出了基于机器学习的协同频谱感知方法(包括有监督和无监督机器学习),虽然取得了较好的检测性能,但是当噪声功率较大时,能量作为特征输入将严重影响鲁棒性检测。在文献[8]中作者提出了一种基于人工神经网络(ANN)的频谱传感方法,以信号能量和周期平稳特征作为输入特征。对于大规模的训练数据,ANN容易出现过拟合问题,导致频谱感知性能下降。现有的算法并不能很好地解决低信噪比下频谱感知问题。

针对低信噪比频谱感知问题,结构相对简单的单隐含层神经网络能更快地解决复杂的非线性映射问题,在频谱感知上可以取得较好的效果。传统的基于梯度学习的算法,如BP神经网络等算法在学习时速度慢,学习容易收敛到局部最小值。黄教授等人[9]提出了一种SLFN算法—极限学习机算法,该算法随机产生权重和隐含层偏差,因此学习速度比传统梯度下降算法快得多,可以获得全局最优解,并有着很好的泛化能力。虽然极限学习机具有较好的泛化能力,但是该算法通过随机选择输入权重和隐含层偏差来加速训练过程,其随机选择可能导致选择了更多的隐藏节点和不佳的权重,而不是最佳的网络结构,增加了网络的复杂性,文献[10]表明了传统的ELM算法仅基于经验风险最小化使算法相对容易过拟合,本文针对该问题在模型建立时引入结构风险最小化的思想进行推导,同时采用量子粒子群算法优化极限学习机网络结构参数,并降低经验风险从而提升算法的频谱感知性能。

1 极限学习机与量子粒子群算法

1.1 ELM算法原理

极限学习机算法是一种单隐含层前馈神经网络(SLFNs),是一种高效的机器学习算法,通过求解线性方程的范数最小二乘解产生最优解,训练过程速度快,泛化性能好。其数学模型如下:首先给定N个不同训练样本有U=,输入有n维可表示为,输出有m维可表示为,可得到有L个隐含层神经元的ELM模型的数学表达式为:

式中,i为训练样本数量;为连接第i个隐含层神经元与输出层神经元的权值向量;为连接第i个输入节点和隐含层节点的输入权值;bi为第i个神经元的偏置;即隐含层神经元的阈值;Ai∙xj表示Ai与xj的内积;g(⋅)为隐含层的激活函数。其中:

通过求解线性方程组Hβ=T的最小二乘解可得隐含层与输出层之间的连接权重β,即:

式中,H†是H的广义逆矩阵。由于不需要返向传递不断调整权值,ELM算法的速度非常快,相比于传统的BP神经网络要反向调整n×(L+1)+L×(m+1)个值,ELM算法仅需在给定Ai和bi的条件下确定一组权重β,使其误差最小化。同时传统的基于梯度下降的神经网络算法与ELM算法相比更容易陷入局部最优和过拟合,所以结构简单的ELM算法有着天然的优势和前景。

1.2 量子粒子群算法

量子粒子群算法控制参数少,只有一个,且收敛度快,具有良好的性能。对于标准粒子群算法,粒子的位置和速度共同决定了粒子的运动轨迹,在牛顿力学中粒子沿着确定的轨迹运动。在量子力学中,轨迹项是没有意义的,因为粒子的位置和速度根据测不准原理无法同时确定。因此QPSO中粒子的运动行为与PSO大相径庭。在量子粒子群算法(QPSO)中,粒子是由薛定谔方程描述ψ(x,t),而不是标准粒子群算法的位置和速度。为保证算法的收敛需满足公式(5),每一粒子要收敛于各自的p点,对任意粒子i有是第i个粒子在第d维的值,其中φij(t)为0和1之间的随机函数。

在粒子群的理论上引入一个中值最优位置mb计算迭代的全局极值的平均值La,公式如下:

其中,Ms是粒子群的个数;j为粒子的第j维其取值范围为j∈[1,d]。可得全局极值的平均值La的计算公式为:

进而可得到粒子的进化方程为:

u和k是在[0,1]范围产生的均匀随机数,其中α是收缩因子,是量子粒子群唯一的参数,调节它的值能控制算法的收敛速度。因此量子粒子群算法具有调节参数少、收敛速度快的优点,对于优化极限学习机算法有天然的优势。

2 认知无线电模型构建

2.1 认知无线电系统模型

频谱感知是认知无线电中的一项重要技术,检测主用户是否在使用频段,防止认知用户干扰到主用户的使用,实际上是检测主用户是否存在的问题,由此可将频谱感知问题建立为一个二元假设检验问题的模型,建立的模型如下:

式中,H0为假设条件下接收机只接收到噪声,即此时主用户信号不存在;H1为假设条件下接收机接收到的信号包含主用户信号和噪声,即此时主用户信号存在;y(t)表示认知用户接收机收到的信号;s(t)表示接收到的主用户信号;n(t)表示接收到的加性高斯白噪声成分。

频谱感知特征的选择直接影响到算法的频谱感知性能,本文选取α≠0下能量最大的循环谱特征和能量特征作为样本的特征参数输入,假设用户接收到的信号为y(t),可得其自相关函数为:

式中,T0是信号的循环周期;α是信号的循环频率。其中,由上式可得:

根据前面建立的频谱感知的二元假设模型,可求得其自相关系数为:

式中,n*,y*表示其共轭。假设授权主用户信号x(t)=cosωt在H1假设下可得到:

由于模型中噪声为高斯白噪声,所以在H0假设下有:

对于接受到的实际信号,调制方式不同可能有多个循环频率,此时取其能量最大的循环谱S(k),即:

可求得其能量En为:

对于高斯噪声信号其峰值集中在α=0上,而在时其幅值为0,而在时信号与噪声的区分度最大,以此提取信号的循环谱特征,表示为和能量特征En=[ξ1,ξ2,…,ξ3]T,组成其特征向量作为训练集。

2.2 量子粒子群优化的极限学习机频谱感知算法理论推导

在实际应用中通信环境的噪声是较为复杂的,只在训练样本上取得较好的效果未必能在应用中取得较好的效果,这就需要算法具有更强的泛化能力。虽然极限学习机具有较好的泛化能力,但是该算法通过随机选择输入权重和隐含层偏差来加速训练过程,随机选择可能导致选择了更多的隐藏节点和不佳的权重而不是最佳的网络结构,增加了网络的复杂性,文献[5]表明了传统的ELM算法仅基于经验风险最小化使算法相对容易过拟合,传统的ELM算法目标函数如下:

约束条件为:

其中,ε是样本计算值与目标值的差值,将之结合结构风险的理念可得:

约束条件为:

其中,γ是一个在结构性风险和经验风险之间进行权衡的因素。因此,本文提出了一种新的基于QPSO优化的极限学习机QPSO-ELM,以降低ELM的结构风险和经验风险。QPSO-ELM学习算法利用QPSO选择最优参数。首先对采集到的实际信号样本集,按照建立模型进行特征提取,归一化标准化组成正负样本的样本集,并采用十折交叉验证法对模型进行训练,具体步骤如下:

(1)由公式(2)初始化权值矩阵A和偏置矩阵B,其中:

随机生成初始粒子群,每个粒子由一组输入权值和隐含层偏差组成,初始化范围缩小到-1到 1 之 间 。Pi=[a11,a12,…,a1L,…,aNL,b1,b2,…,L],i=1,2,…,Ns。其中Ns是粒子群大小,N是输入层节点数,L表示隐含层节点数有上式有每个粒子的长度为NL=N×L+L

(2)对于每一组输入权值和隐含层偏差,采用公式(4)计算相应的输出权值。然后计算每个粒子的适应度,适应度函数描述为:

其中,N为验证数据集的样本数。为了避免过度拟合,节省训练时间,使用验证数据集代替整个训练数据集。

(3)ELM算法最优分类面问题本质上是求一组(NL,A,B),使得输出权重二阶范数最小,计算每个粒子的适应度值,根据式(6)更新每个粒子的最佳个体位置,βPi,βpbi,βpg分别为第i个粒子当前位置输出权重,个体极值输出权重,全局极值输出权重。

(4)将全局最优位置与第i个粒子的最优个体位置进行比较,并根据式(7)进行更新。

(5)对于第i个粒子的每个维度,根据式(5)计算pij,根据式(6)和式(8)在[-1,1]间更新位置。

(6)判断是否满足迭代条件,否则按顺序执行步骤(2)-(5),否则输出最优参数。

图1为整个训练过程流程图。

2.3 量子粒子群优化的极限学习机频谱感知算法的实现

基于循环谱相关函数可获得不同调制类型的主用户信号的特征参数,算法的具体实现步骤如下:

(1)需要解决的问题为判断主用户存在(H1)和主用户不存在(H0),按照2.1中的方法提取循环谱特征和能量特征,在H1条件下提取循环谱特征和能量特征构成向量y1=(S1,En1)T,在H0条件下提取循环谱特征和能量特征构成向量y0=(S0,En0)T。

(2)由步骤(1)中得到的特征向量构成Q个特征向量的整体样本集,包括Q1个正样本特征向量和Q0个负样本特征向量构成。

(3)根据2.2节算法训练QPSO-ELM频谱感知模型。

图1 模型训练过程

图2 本文算法频谱感知总体实现流程

(4)用步骤(1)方法提取实际信号,用步骤(3)中训练好的频谱感知模型实现对主用户信号的频谱感知。

量子粒子群优化的极限学习机频谱感知算法的整体实现框图如图2所示。

3 仿真实验

3.1 实验设置

为了验证本文算法在无线信道低信噪比环境的性能,采用基于802.11a协议下子载波为64的OFDM信号获取4 000个训练测试数据集,进行仿真验证本文算法的有效性。并与ELM、ANN和SVM三种机器学习方法进行了比较,仿真信噪比范围为-25~-5 dB,每个信噪比进行独立实验2 000次。

本文给出了OFDM信号在不同信噪比下检测概率的比较曲线可知,本文提出的基于QPSOELM信号频谱感知方法在不同信噪比条件下正确检测概率均优于ANN和SVM方法。在-25~-5 dB之间对于相同的信噪比下对于ELM、ANN和SVM三种机器学习算法采用相同的训练集和测试集,仿真结果表明本文算法在-10 dB时仍有高于70%的检测概率,可见ELM在低信噪比条件下具有较好的检测性能。而能量检测法受噪声的影响比较大,在“信噪比墙”的影响下当信号的信噪比低于-10 dB时检测性能急剧恶化。

图3给出了OFDM信号在无线信道不同信噪比条件下本文算法与传统能量检测算法和包括ANN、ELM和SVM的机器学习算法检测概率的对比图,从图中可以看出当信噪比为-20 dB时本文的检测概率为0.69,相比于对比算法提升最大,ELM、ANN、SVM算法检测概率分别为0.6,0.53,0.41,传统的能量检测算法的概率近乎为0,本文算法检测概率相比ELM、ANN、SVM算法检测概率分别提高了9%、16%、28%。提出的算法检测概率明显高于对比算法。随着信噪比降低,环境更恶劣,所以各算法的检测准确率均有所降低,但本算法检测准确率仍高于其他算法,这是由于本算法引入结构风险,降低经验风险,提高了算法的泛化性能,克服了传统ANN算法容易陷入局部最优解和SVM在低信噪比情况下容易过拟合而引起的分类精度误差较大的缺陷,提升了传统ELM在频谱感知中的检测准确率。

图3 不同信噪比下各算法检测概率对比

图4为在不同信噪比下各算法的虚警概率性能对比曲线。几种机器学习算法的虚警概率都在10-4数量级,ANN算法和ELM算法的虚警概率相对较高,SVM算法与本文算法相对较低,这是因为经过量子粒子群的优化和引入结构风险使得算法能够更有效的提取输入特征,从而取得了较好的效果。

图4 不同信噪比下各算法的虚警概率

图5、图6分别是在-15 dB下的ELM和QP⁃SO-ELM算法在不同隐含层神经元个数下的频谱感知检测概率,图3中采用的普通ELM算法只考虑经验风险最小化,而未考虑结构风险最小化,容易造成过拟合,取神经元数不同会造成检测概率大幅度变化。

图5 ELM隐含层神经元个数与检测概率的关系

图6是信噪比为-15 dB下经过QPSO优化过后降低了经验风险的ELM模型,可以看到随隐含层神经元个数的增加,检测概率也逐渐增加,达到一定神经元数目后检测概率只在小范围浮动,并取得了更高的检测概率。相比ELM算法,在-15 dB环境下提升了6%的检测概率。

图6 本文算法隐含层神经元个数与检测概率的关系

表1 平均训练时间对比

表1为经过104数量级的训练后得到的各算法平均训练时间,从表1可看出,ELM算法的收敛速度明显快于SVM算法和ANN算法,这是由于ELM算法是单隐含层结构的神经网络,其结构简单,且算法复杂度较低。采用量子粒子群优化后,速度仍快于采用梯度下降法的传统神经网络算法,同时也无需反复的正向计算和反向的计算误差并修正,使得学习效率大幅提升。从表1和图3可看出,ELM-QPSO算法的辨识精度高于ANN、SVM和传统ELM,训练时间QPSOELM相对加长但仍快于ANN算法,与SVM算法时间近似,有效地避免了ANN神经网络在训练时容易陷入局部极值和SVM在低信噪比下频谱感知中过拟合的问题。以上结果表明本文采用的QPSO-ELM方法随着低信噪比的降低检测概率仍高于其他3种方法,体现了本文算法在低信噪比的无线通信环境下的优势。

4 结论

针对低信噪比下的频谱感知问题,本文提出一种QPSO-ELM频谱感知算法,为了提高模型的精度,针对信号的循环谱特点提取信号的循环谱特征和能量特征组成特征向量,使用循环谱特征减少了输入变量的维数和噪声干扰,并以ELM算法为基础,采用QPSO优化参数并引入结构风险最小化避免模型过拟合和容易陷入局部最优的缺点,使得模型有着更高的精度。通过以三种机器学习方法做对比,对模型在低信噪比情况下OFDM信号检测问题的仿真,证明本文算法有效地避免了ANN神经网络在训练时容易陷入局部极值和SVM在低信噪比下频谱感知中过拟合的问题,在-15 dB下也能达到80%的识别率,虚警概率在10-4数量级,在低信噪比下也具有较高的准确度和稳定性。

猜你喜欢
学习机信噪比量子
2022年诺贝尔物理学奖 从量子纠缠到量子通信
决定未来的量子计算
基于深度学习的无人机数据链信噪比估计算法
新量子通信线路保障网络安全
极限学习机综述
测控技术(2018年10期)2018-11-25 09:35:26
低信噪比下LFMCW信号调频参数估计
电子测试(2018年11期)2018-06-26 05:56:02
基于极限学习机参数迁移的域适应算法
自动化学报(2018年2期)2018-04-12 05:46:21
低信噪比下基于Hough变换的前视阵列SAR稀疏三维成像
雷达学报(2017年3期)2018-01-19 02:01:27
分层极限学习机在滚动轴承故障诊断中的应用
一种简便的超声分散法制备碳量子点及表征