MIMO-GFDM系统中低复杂度动态禁忌搜索检测算法的改进

周围 向丹蕾 郭梦雨

摘 要：针对多输入多输出的广义频分复用（MIMO-GFDM）系统的等效信道矩阵维度极大，传统的MIMO检测算法复杂度高且性能不佳的问题，将大规模MIMO系统中的动态禁忌搜索（RTS）检测算法运用到MIMO-GFDM系统中，并解决了RTS算法初始值的求解复杂度高的问题。首先利用最小均方误差（MMSE）检测算法所用到矩阵的正定对称性将矩阵Cholesky分解，并结合Sherman-Morrison公式迭代计算初始值，降低了初始值求逆的高复杂度;然后以改进的MMSE检测结果作为RTS算法的初始值，从初始值逐步全局搜索最优解;最后通过仿真，对不同算法的迭代次数和误码率（BER）性能进行了研究。理论分析与仿真结果表明：在MIMO-GFDM中， 所提改进RTS信号检测算法误码率远低于传统信号检测算法。在4QAM时，RTS算法大约有低于MMSE检测6dB的信噪比性能增益（误码率在10-3时）;在16QAM时，RTS算法大约有低于MMSE检测4dB的信噪比性能增益（误码率在10-2时）。与传统RTS算法性相比，所提改进算法在不影响误码率性能的同时降低了算法复杂度。

关键词： 广义频分复用;多输入多输出;动态禁忌搜索;信号检测;Cholesky分解;Sherman-Morrison公式

中图分类号：TN929.5

文献标志码：A

文章编号：1001-9081（2019）04-1133-05

0 引言

多输入多输出（Multiple-Input Multiple-Output， MIMO）技术可以提高数据传输速率和频谱效率。而在MIMO中使用正交频分复用（Orthogonal Frequency Division Multiplexing， OFDM）能够抵抗多径衰落，因此，MIMO和OFDM技术的联合是必要的。随着无线通信技术从4G到5G的跃迁，OFDM的一些缺点会阻碍它在5G中的使用，例如高带外（Out Of Band， OOB）泄漏、对时间和频率同步的敏感性以及高峰均功率比（Peak-to-Average Power Ratio， PAPR）。在文献[1]中对几种5G的新型多载波传输技术：滤波器组多载波（Filter Bank Multicarrier， FBMC）、通用滤波多载波（Universal Filtered Multicarrier， UFMC） 和广义频分复用（Generalized Frequency Division Multiplexing， GFDM）进行了比较，实验结果表明，GFDM是较具潜力的5G新技术之一。与OFDM相比，GFDM的帧结构较为灵活，OOB泄漏更低，循环前缀（Cyclic Prefix， CP）使用更高效。但是，由于GFDM子载波的非正交性，使得系统的自干扰难以消除。

在MIMO-GFDM系统中，除了载波间干扰（Inter-Carrier Interference， ICI）和符号间干扰（Inter-Symbol Interference， ISI）之外还产生天线间干扰（Inter-Antenna Interference， IAI），这使得信号检测的难度增加，传统的线性检测算法性能不佳。MIMO-GFDM系统的等效信道矩阵维度很大，可以理解为一个大规模的MIMO系统，MIMO技术中传统的非线性检测算法复杂度大幅增加。在文献[2]中，将球形译码与干扰消除相结合能够降低算法复杂度，但是还需继续降低。文献[3]在文献[2]的基础上引入软串行干扰消除（Soft Serial Interference Cancellation， Soft-SIC）和K-Best检测来减少误差传播。

文献[4-5]都是通过在结合最小均方误差的并行干扰消除（Minimum Mean Squared Error with Parallel Interference Cancellation， MMSE-PIC）解映射器和信道解码器之间迭代地交换对数似然比（Log Likelihood Ratio， LLR）来去除干扰。

本文考虑将大规模MIMO系统中信号检测使用的动态禁忌搜索（Reactive Tabu Search， RTS）运用到MIMO-GFDM系统中。文献[6]指出RTS算法性能主要取决于邻域函数定义和初始值的选择。传统线性检测算法中最小均方误差（Minimum Mean Square Error， MMSE）性能最好，但是MIMO-GFDM的等效信道矩阵维度很大，直接求逆的复杂度很高。针对这一问题，本文应用Cholesky分解和Sherman-Morrison公式来迭代处理求逆运算，降低初始值求解的复杂度，从而降低MIMO-GFDM系统中RTS信号检测算法复杂度。

1 系统模型

1.1 GFDM原理

通過合适的信号检测算法从中恢复出信号的估计^，再得出vec（D）的估计，最后从QAM解调器中解调出二进制数据。

2 RTS算法

根据第1章的分析可以发现，MIMO-GFDM的等效信道矩阵Heq维度较大，很多传统MIMO信号检测算法不再适用于此系统。因此，考虑大规模MIMO系统中的检测算法，RTS算法在大规模MIMO系统中能获得不错的性能，且复杂度相对较低。本文将RTS算法运用到MIMO-GFDM系统，并对初始值的计算进行改进，降低算法的复杂度。

2.1 传统RTS算法

RTS算法是一种将搜索结果从局部最优向全局最优转移的方法，在捜索最佳解向量过程中会将访问到的解向量加入禁忌列表中，使得访问过的解向量在自己的禁忌周期没有结束之前不会被再次访问到，以此来避免在检测过中陷入邻域的迂回捜索问题。RTS算法流程如图2所示，整个过程可以总结为：1）计算已知检测器的输出作为初始向量或者随机生成初始解向量，根据邻域的定义寻找初始解向量的邻域，并计算所有邻居的最大似然（Maximum Likelihood， ML）代价函数值。2）找出ML代价函数值最小的邻居，称之为最优邻居，将最优邻居作为待转移方向，此时有三种情况：①若该邻居向量的ML代价函数值小于当前解向量，则将该邻居更新为当前向量，即执行本次移动;②若该邻居向量的ML代价函数不小于当前解向量但没有被禁忌，仍执行本次移动;③若上面两条均不满足，则将次优邻居作为新的待转移方向，继续重复前面的条件判断。3）直到找到最终解或者满足条件后结束整个搜索过程[8]。在本文使用了最简单的迭代终止条件，即是当迭代次数大于设定的最大迭代次数时终止搜索过程，输出最终解向量。

2.2 改進算法

初始解向量直接影响RTS算法的误码率（Bit Error Rate， BER）性能和复杂度，可用取随机向量作为初始解，但是性能不佳，且需要更多的迭代次数才能到达稳定的性能。线性检测算法中，MMSE检测性能最优。

解决好W的求逆后，得到RTS算法的初始值，开始RTS算法。

3 复杂度分析

本文对RTS算法的改进点是初始值的计算，利用Cholesky分解和Sherman-Morrison公式对MMSE初始值求解过程中的求逆进行简化，于是改进的RTS算法和传统的RTS算法复杂度的对比就是MMSE初始值中矩阵W的求逆复杂度对比。改进算法的求逆包括两部分：下三角矩阵L的求逆和（L-1）H与L-1的相乘。

对于RTS算法的迭代搜索部分，其复杂度由搜索迭代次数决定，而搜索迭代次数由终止条件决定。根据文献[11]的终止条件，RTS算法的整体复杂度为O（η3），对比传统非线性检测串行干扰消除（Serial Interference Cancellation，SIC）O（η4）的复杂度，RTS算法复杂度低一个次方，对比传统线性检测算法MMSE检测和ZF检测O（η3）的复杂度，RTS算法没有增加算法复杂度阶数。

4 仿真结果与分析

本文仿真MIMO-GFDM系统与RTS算法的仿真条件如表1所示。考虑信道长度为17的瑞利衰落信道，接收端已知全部的信道状态信息。

图3是信噪比在10dB时，MIMO-GFDM使用4QAM调制，初始值分别为随机矢量和MMSE检测算法矢量的RTS算法在不同迭代次数下的误码率性能。可以看出，RTS检测算法最终会获得趋于一个稳定的误码率。当初始值为随机向量时，搜索迭代次数达到200后趋于稳定;当初始值为MMSE检测结果时，经过30次搜索迭代后达到稳定性能，说明好的初始解向量能够使最终性能更佳且到达稳定性能的搜索迭代次数更少。

图4（a）是MIMO-GFDM系统使用ZF检测、MMSE检测、改进MMSE检测、MMSE-SIC检测、MMSE-RTS检测在4QAM调制下的性能，从中可看出改进的MMSE检测与原MMSE检测性能完全相同。由于MMSE检测平衡了噪声干扰，所以性能优于ZF检测，但是MIMO-GFDM系统中还存在ICI、ISI且对性能的影响，使得线性检测算法的性能不佳，在20dB时，MMSE检测也只有10-3左右的性能。非线性检测算法MMSE-SIC性能优于两种线性检测，在BER为10-2时，大约有优于MMSE检测2dB的性能增益。性能最好的是MMSE-RTS检测算法，误码率远低于对比算法。

图4（b）是MIMO-GFDM系统在16QAM调制下，五种信号检测算法的误码率性能。五种算法的性能优劣顺序和4QAM调制时相同，但是差距缩小。其中MMSE检测和MMSE-SIC检测差距明显缩小，RTS性能下降最多。RTS算法性能下降很快的原因是高阶调制中局部极小值增多，如果解向量空间中存在大量局部极小值点，并且这些局部极值点周期性地出现，它们会在搜索过程中相互跳转，降低了搜索的效率。

5 结语

本文分析了MIMO-GFDM系统的等效信道矩阵，发现其矩阵维度很高，导致传统的信号检测算法性能不好且复杂度很高，所以考虑将大规模MIMO系统中的RTS信号检测算法运用到MIMO-GFDM系统，以降低系统的误码率。本文还利用MMSE检测中的正定对称矩阵，使用Cholesky分解和Sherman-Morrison公式降低RTS算法初始值求解的复杂度，且不影响RTS算法最终的误码率性能。最后，仿真验证初始值对RTS算法搜索迭代次数和最终稳定性能的影响，也比较了传统信号检测算法和本文改进RTS算法在MIMO-GFDM系统的性能，验证了改进RTS算法在性能和复杂度上的优势。

参考文献（References）

[1] 李宁， 周围. 面向5G的新型多载波传输技术比较[J]. 通信技术， 2016， 49（5）： 519-523. （LI N， ZHOU W. Comparison of new multi-carrier transmission technology for 5G[J]. Communications Technology， 2016， 49（5）： 519-523.）

[2] MATTHE M， GASPAR I， ZHANG D. et al. Near-ML detection for MIMO-GFDM[C]// Proceedings of the 2015 IEEE 82nd Vehicular Technology Conference. Piscataway， NJ： IEEE， 2015： 1-2.

[3] MATTHE M， ZHANG D， FETTWEIS G. Sphere-decoding aided SIC for MIMO-GFDM： coded performance analysis[C]// Proceedings of the 2016 International Symposium on Wireless Communication Systems. Piscataway， NJ： IEEE， 2016： 165-169.

[4] MATTHE M， ZHANG D， FETTWEIS G. Iterative detection using MMSE-PIC demapping for MIMO-GFDM systems[C]// Proceedings of the 2016 22th European Wireless Conference. Piscataway， NJ： IEEE， 2016： 473-479.

[5] MATTHE M， ZHANG D， FETTWEIS G. Low-complexity iterative MMSE-PIC detection for MIMO-GFDM[J]. IEEE Transactions on Communications， 2018， 66（4）： 1467-1480.

[6] CHOCKALINGAM A， RAJAN B S. Large MIMO Systems[M]. Cambridge： Cambridge University Press， 2014： 92.

[7] MICHAILOW N， MATTHE M， GASPAR I. Generalized frequency division multiplexing for 5th generation cellular networks[J]. IEEE Transactions on Communications， 2014， 62（9）： 3045-3061.

[8] 王天航. Massive MIMO中基于RTS的檢测算法研究[D]. 合肥： 安徽大学， 2017： 16-18. （WANG T H. Research on RTS-based detection algorithm in Massive MIMO [D]. Hefei： Anhui University， 2017： 16-18.）

[9] 魏婵娟， 张春水， 刘健. 一种基于Cholesky分解的快速矩阵求逆方法设计[J]. 电子设计工程， 2014， 22（1）： 159-161. （WEI C J， ZHANG C S， LIU J. Design of a fast matrix inversion method based on Cholesky decomposition[J]. Electronic Design Engineering， 2014， 22（1）： 159-161.）

[10] XU Y， ZOU W， DU L. A fast and low-complexity matrix inversion scheme based on CSM method for massive MIMO systems[J]. EURASIP Journal on Wireless Communications & Networking， 2016， 2016（1）： 251.

[11] 邓恺. 大规模MIMO中低复杂度检测算法设计[D]. 南京： 南京邮电大学， 2016： 51-52. （DENG K. Design of low complexity detection algorithm for massive MIMO [D]. Nanjing： Nanjing University of Posts and Telecommunications， 2016： 51-52.）