稀疏信道下基于稀疏贝叶斯学习的精简星座盲均衡算法

张 凯 于宏毅 胡赟鹏 沈智翔



稀疏信道下基于稀疏贝叶斯学习的精简星座盲均衡算法

张 凯*于宏毅 胡赟鹏 沈智翔

(信息工程大学信息系统工程学院 郑州 450001)

针对稀疏信道的盲均衡问题，在精简星座均衡算法框架下建立线性模型，利用稀疏信道下均衡器固有的稀疏特性，引入具有稀疏促进作用的先验分布对均衡器系数加以约束，使用稀疏贝叶斯学习方法迭代求解均衡器系数得到最大后验估计值。该文提出的均衡方法属于数据复用类均衡算法的范畴，能够适用于数据较短的应用场合。与随机梯度方法相比，算法性能受均衡器长度影响较小，收敛后误符号率性能更好，仿真实验验证了算法的有效性。

数字通信；盲均衡；稀疏信道；精简星座算法；稀疏贝叶斯学习

1 引言

在数字通信系统中，作为克服符号间串扰的重要手段，盲均衡技术得到了广泛的研究。在众多盲均衡算法中，Bussgang类盲均衡算法是目前应用最广泛的一类盲均衡算法[1]，其依据不同准则设计非线性代价函数，采用随机梯度法对均衡器系数进行调整，最具代表性[2]的有常模算法(Constant Modulus Algorithm, CMA)、精简星座算法(Reduced Constellation Algorithm, RCA)、多模算法(Multi-Modulus Algorithm, MMA)等。该类算法具有原理简单、易于实现等优点，但也存在收敛速度慢，需要较大的数据量，对步长因子及均衡器长度敏感等问题。在突发通信等数据量较短的应用场合，其应用受限。文献[3]提出了数据复用的思想，即重复使同一段接收数据进行迭代运算，该方法降低数据长度的要求，但其仍存在收敛速度慢、收敛特性不稳定且对步长因子和均衡器长度敏感等问题。

在许多高速无线通信系统中，信道往往呈现稀疏特性[4,5]，即信道响应的能量集中在少数几个抽头上，而大多数抽头能量很小或者为零。文献[6]和文献[7]分析指出，稀疏信道符号间隔破零均衡器也为稀疏的，文献[8]将该结论扩展到了判决反馈均衡器的应用。利用均衡器稀疏特性可以降低均衡器维度，降低求解计算量，提升收敛速度和收敛稳健性。本文针对稀疏信道的盲均衡问题，研究了基于稀疏贝叶斯学习(Sparse Bayesian Learning, SBL)[12,13]的稀疏盲均衡器设计方法。首次基于精简星座均衡算法的代价函数，通过引入扰动误差项建立线性模型，将代价函数最小化问题转化为线性模型的求解问题。在贝叶斯框架下，利用稀疏信道均衡器固有的稀疏特性，引入具有稀疏促进作用的先验分布对均衡器系数加以约束，然后利用稀疏贝叶斯学习的方法对线性方程进行迭代求解，最终得到稀疏的均衡器系数矢量。由于引入稀疏先验约束，均衡器非零元位置及取值在迭代过程中自动调整，克服了传统基于随机梯度求解时，性能易受均衡器长度影响的问题，仿真实验验证了算法的优越性。

2 系统模型和RCA算法概述

2.1系统模型

考虑如图1所示的数字通信系统模型。发送信号通过信道后，接收信号可表示为

图1带有线性均衡器的通信系统模型

均衡器输出为

将式(2)写成矩阵形式：

(4)

2.2 精简星座均衡算法概述

精简星座算法(Reduced Constellation Algorithm, RCA)由文献[14]中提出，其基本原理如图2所示，通过使均衡器输出与其对应精简星座点距离最小设计均衡器。代价函数为

其中，为复的signum函数，和分别表示为均衡器输出的实部和虚部，为发送符号统计量的函数[2]，为求期望运算。

RCA在最小均方误差准则下，通过使上述代价函数最小化求解均衡器系数，即

常用随机梯度方法对式(6)进行求解，均衡器权系数更新公式为

(7)

3 基于稀疏贝叶斯的精简星座盲均衡算法

3.1算法推导

在精简星座均衡方法框架下，引入扰动项，可以建立式(8)的线性模型：

稀疏贝叶斯学习的基本思想是：首先给待估参数加入具有稀疏促进作用的先验分布，然后在贝叶斯框架下求其最大后验估计值。

(10)

式(10)中，等号右边第1项来自于似然函数，后两项来源于均衡器系数的先验分布，其中为均衡器系数矢量的协方差矩阵。下面给出基于稀疏贝叶斯的迭代求解过程。

由式(10)可以看出，均衡器系数最大后验估计值包含未知参数和，需要对待估参数，未知参数和进行联合求解，直接对全后验概率最大化，求解复杂度较大，将全后验概率分解为

(12)

(14)

使式(14)最大化，得到[12]

(16)

上述求解方法为一个迭代求解的过程，在迭代的过程中，很多超参数变为无限小，后验均值无限接近零，当超参数低于某一预设门限时，可将与其对应的均衡器系数值强制置零，最终得到最大后验估计值中只有极少数非零元素，从而得到稀疏解。从上面的分析，可以得到基于稀疏贝叶斯学习的均衡算法计算流程如表1所示。

表1基于稀疏贝叶斯学习的均衡算法计算步骤

3.2 算法性能分析

3.1节中提出的基于稀疏贝叶斯迭代求解的均衡算法具有如下特性：

(1)算法属于数据重用类均衡算法的范畴。重复使用同一段数据进行迭代求解，接收数据较短时，依然具有较好的性能，可应用于突发通信等数据量较短的场合。

(2)算法稳健。基于随机梯度求解的方法收敛特性及稳态性能易受均衡器长度及步长因子等条件的影响。本文算法在稀疏贝叶斯框架下进行求解，影响算法性能的因素为：超参数初始值和均衡器长度。超参数在迭代过程中自适应求解，其初始值仅对收敛速度产生一定影响，不会影响最终的算法性能。由于对均衡器系数加入稀疏约束的先验分布，迭代过程中，均衡器非零元位置及取值自动调整，降低了均衡器长度对算法性能的影响，将在第4节通过仿真实验加以验证。

(3)较低的计算量。由式(7)可计算出，基于随机梯度的求解算法：每次迭代需要次乘法运算和次加法运算。一般至少需要数千次迭代才能收敛，且均衡器长度越长，收敛速度越慢。

基于稀疏贝叶斯迭代求解各步骤计算量如下：

均衡阶段，由于基于稀疏贝叶斯学习的方法得到的是稀疏解，即很多均衡器系数为零，不需要参与运算，计算量正比于非零元的数目。而随机梯度的方法需要使用所有均衡器系数对信号进行滤波运算，计算量取决于均衡器的长度。在均衡器总长一定的情况下，本文方法得到均衡器在均衡阶段具有更小的计算量。

4 算法仿真及结果分析

实验条件如下：(1)均衡器阶数，采用中心抽头初始化，即均衡器中心系数为1，其它为0；(2)分别采用剩余码间干扰(ISI)和稳态误符号率两个指标对算法收敛特性和稳态性能进行度量。

仿真1 以剩余码间干扰(ISI)为指标，对本文提出的算法收敛性能进行分析。剩余ISI计算为

图3和图4所示为不同数据块长度、不同均衡器长度下剩余ISI随迭代次数变化的曲线。发送符号为独立同分布的16QAM信号，噪声为加性高斯白噪声，信噪比SNR=20 dB，信道为6径FIR信道[8]，非零元数目为3，信道冲击响应如表2所示。均衡器长度分别取11, 21和31。图3和图4中数据块长度分别取600和1000。从收敛速度看，均衡器长度越长，收敛速度越慢，但总体差别不大，如图3中，=11时，算法需要9次迭代达到收敛，=21和31时，也仅需要12次迭代即可完成收敛；=1000时，均衡器长为11时，算法收敛约需要进行7次迭代运算，=21和31时，算法需要10次迭代实现收敛。从算法收敛后，剩余ISI角度看，=600和1000时，均衡器长度=21时，剩余ISI最小，=11时最大，稳态最大ISI和最小ISI差分别为1 dB (=600)和2 dB (=1000)。可以看出，在不同均衡器长度、不同数据块长度下，本文提出的算法表现出较高的稳定性。

表2 信道1冲击响应

图 3 不同迭代次数下平均剩余ISI曲线(K=600)         图4 不同迭代次数下平均剩余ISI曲线(K=1000)

仿真2 由于稳态误符号率能够反映算法在不同信噪比下的性能，因此采用误符号率(SER)指标对算法的稳态性能进行分析，并同采用数据重用的随机梯度RCA求解方法(RC-SGD-RCA)性能进行对比。同样采用表2所示的FIR信道，发送信号采用独立同分布的16QAM调制信号。图5和图6为两种算法收敛后的误符号率曲线，其中，图5固定均衡器长度为21，观测符号长度分别取800, 1000和1200，而图6中，观测信号长度固定为1000，而均衡器长度分别取11, 21和31。RC-SGD-RCA算法仿真中，数据复用长度为观测数据块长度，迭代步长因子。

图5 不同观测长度下两种算法误符号率性能对比(信道1)          图6 不同均衡器长度下两种算法误符号率性能对比(信道1)

从图5和图6可以看出，由于利用均衡器稀疏特性，通过加入具有稀疏促进作用的先验分布对均衡器系数加以约束，本文提出的基于稀疏贝叶斯学习(SBL)的均衡算法性能明显优于基于数据复用的随机梯度求解方法，且在高信噪比下优势体现更加明显。此外，本文算法误符号率性能在均衡器长度及观测长度在一定范围内变化时具有较强的稳健性，而RC-SGD-RCA则易受二者的影响。

仿真中发现，基于稀疏贝叶斯学习的均衡算法收敛后，非零元数目约占均衡器总长度的2/3，因此，均衡阶段可以减少1/3的计算量。在算法收敛阶段，RC-SGD-RCA方法受均衡器长度影响较大，其收敛曲线如图7所示，其中，观测信号长度取1000，信噪比SNR为20 dB。可以看到，均衡器长度=11时，收敛速度最好，大约需要2000次迭代实现收敛，性能也最差。=21/31时，大约需要4000次迭代实现收敛。结合3.2节中算法计算量公式可知，本文算法在收敛阶段需要更大的计算量。

图7 RC-SGD-RCA算法不同迭代次数下平均剩余ISI曲线(信道1)

仿真3 采用国际电联(ITU)Vehicular A信道[17]对算法性能进行进一步验证。信道时延扩展为11个符号间隔，非零径数目为6，非零径时延均匀分布，且径增益服从零均值复高斯分布，其方差随时延呈负指数衰减。发送信号采用独立同分布的16QAM调制信号。图8和图9为本文算法(SBL)和RC-SGD-RCA算法收敛后的误符号率曲线，其中，图8固定均衡器长度为31，观测符号长度分别取800, 1000和1200，而图9中，观测信号长度固定为1000，而均衡器长度分别取21, 31和41。RC-SGD-RCA算法仿真中，迭代步长因子。可以看出，本文处理方法性能优于数据复用的随机梯度求解方法，且具有较强的稳健性，与仿真2结论一致。

图 8 不同观测长度下两种算法误符号率性能对比(信道2)         图9 不同均衡器长度下两种算法误符号率性能对比(信道2)

5 结束语

针对稀疏信道下盲均衡问题，在简化星座均衡算法框架下建立线性模型，将均衡器系数视为随机变量，使用稀疏贝叶斯学习的方法求解均衡器后验均值作为其估计值，得到具有稀疏特性的均衡器系数。通过引入具有稀疏特性的先验分布对均衡器系数加以约束，在迭代的过程中，均衡器非零元位置及取值自适应调整，算法收敛特性及稳态误符号率性能受均衡器长度影响较小。本算法属于数据复用类均衡算法的范畴，重复使用同一段数据进行迭代求解，可以应用于突发通信等数据较短的场合。

[1] 阮秀凯, 蒋啸, 刘莉, 等. 一族新的 Bussgang 类指数拓展多模盲均衡算法[J]. 电子与信息学报, 2013, 35(9): 2188-2193. doi: 10.3724/SP.J.1146.2012.01544.

RUAN Xiukai, JIANG Xiao, LIU Li,. A novel Bussgang category of blind equalization with exponential expanded multi-modulus algorithm[J].&, 2013, 35(9): 2188-2193. doi: 10.3724/SP.J.1146.2012.01544.

[2] YANG J, WERNER J J, and DUMONT G A. The multimodulus blind equalization and its generalized algorithms[J]., 2002, 20(5): 997-1015.

[3] HAN H D and DING Z. Steepest descent algorithm implementation for multichannel blind signal recovery[J]., 2012, 6(18): 3196-3203.

[4] ZHOU F, TAN J, FAN X,. A novel method for sparse channel estimation using super-resolution dictionary[J]., 2014, 2014(1): 1-11.

[5] SENOL H. Joint channel estimation and symbol detection for OFDM systems in rapidly time-varying sparse multipath channels[J]., 2015, 82(3): 1161-1178.

[6] GELLER B, CAPELLANO V, BROSSIER J M,. Equalizer for video rate transmission in multipath underwater communications: Special issue on acoustic communications[J]., 1996, 21(2): 150-155.

[7] BERBERDIS K and RONTOGIANNIS A A. Efficient decision feedback equalizer for sparse multipath channels[C]. IEEE International Conference on Acoustics, Speech and Signal Processing, Istanbul, Turkey, 2000: 2725-2728.

[8] LEE F K H and MCLANE P J. Design of nonuniformly- spaced tapped-delay-line equalizers for sparse multipath channels[C]. Global Telecommunications Conference, Mumbai, India, 2001, 2: 1336-1343.

[9] VLACHOS E, LALOS A S, and BERBERIDIS K. Stochastic gradient pursuit for adaptive equalization of sparse multipath channels[J]., 2012, 2(3): 413-423.

[10] HELMY A, HEDAYAT A, and AL-DHAHIR N. Robust weighted sum-rate maximization for the multi-stream MIMO interference channel with sparse equalization[J]., 2015, 60(10): 3645-3659.

[11] SILVA L and GOMES J. Sparse channel estimation and equalization for underwater filtered multitone[C]. OCEANS 2015, Genova, Italy, 2015: 1-8.

[12] TIPPING M E. Sparse Bayesian learning and the relevance vector machine[J]., 2001, 1: 211-244.

[13] HANSEN T L, BADIU M, FLEURY B H,. A sparse Bayesian learning algorithm with dictionary parameter estimation[C]. Sensor Array and Multichannel Signal Processing Workshop,A Coruña, Spain, 2014: 385-388.

[14] GODARD D N. Method and device for training an adaptive equalizer by means of an unknown data signal in a transmission system using double sideband-quadrature carrier modulation [P]. U.S. Patent 4, 309, 770. 1982.

[15] WIPF D P. Sparse estimation with structured dictionaries[C]. Advances in Neural Information Processing Systems, Granada, Spain, 2011: 2016-2024.

[16] KAY S. M. (美), 罗鹏飞, 张文明, 等译. 统计信号处理基础: 估计与检测理论[M]. 北京，电子工业出版社, 2003: 277-334.

[17] GOMAA A and AL-DHAHIR N. Sparse FIR equalization: a new design framework[C]. Vehicular Technology Conference, Budapest, Hungary, 2011: 1-5.

Reduced Constellation Equalization Algorithm for Sparse MultipathChannels Based on Sparse Bayesian Learning

ZHANG Kai YU Hongyi HU Yunpeng SHEN Zhixiang

(Institute of Information System Engineering, Information Engineering University, Zhengzhou 450001, China)

This paper deals with blind equalization of sparse multipath channels. A linear model is built under the framework of Reduced Constellation Algorithm (RCA). And the inherent sparse nature of the equalizer is exploited by employing a sparse promoting prior distribution. Then, the sparse Bayesian learning iterative inference method is applied to the proposed model in order to obtain the optimal sparse equalizer. The new proposed algorithm, which belongs to data recycling equalization algorithm domain, can be applied to short packet data applications. Compared with traditional Stochastic Gradient Descent (SGD) method, the new proposed algorithm performs more steadily under different equalizer order and has superior steady-state Symbol-Error-Rate (SER) performance. The effectiveness of the proposed algorithm is verified by simulations.

Digital communication; Blind equalization; Sparse channel; Reduced Constellation Algorithm (RCA); Sparse Bayesian learning

TN914.3

A

1009-5896(2016)09-2255-06

10.11999/JEIT151307

2015-11-23；

2016-04-08；

2016-05-25

国家自然科学基金(61201380, 61501517)

The National Natual Science Foundation of China (61201380, 61501517)

张凯 zk_xxgc@163.com

张 凯： 男，1988年生，博士生，研究方向为通信信号处理、信道估计.

于宏毅： 男，1963年生，教授，研究方向为无线通信.

胡赟鹏： 男，1978年生，副教授，研究方向为无线通信.

沈智翔： 男，1985年生，讲师，研究方向为无线通信.