MMO检测算法与深度学习方法探讨

朱啸豪 姜述超 孙超

摘 要： 作为未来5G通信的核心技术之一，大规模多输入多输出（multple-nput multple-output，MMO）技术获得了广泛的研究。但是，“大规模”带来显著性能增益的同时，也给接收机设计带来了挑战，尤其是考虑到资源和成本限制，基站天线在满足性能需求的同时，需要尽可能少。论文首先讨论了MMO情景下的传统检测算法，如最大似然（maxmum lkelhood， ML）检测算法、迫零（zero-forcng， ZF）检测算法及线性最小均方误差（lnear mnmum mean square error， LMMSE）检测算法等。仿真结果表明最优的 ML算法的复杂度随着用户数指数增加。在接收天线数不是充分多时，次优的ZF和LMMSE算法都会有显著的性能损失。针对这一问题，讨论了基于深度学习框架的解决方案，包括目前已有的LAMP（learned approxmate message passng）检测算法和神经网络DetNet算法;基于全连接网络结构做了初步探索。经过对它们的仿真比较，发现基于深度神经网络的MMO检测算法，确实可以提升传统检测算法的性能;但对神经网络系数的优化，可能会导致较高的训练复杂度，论文讨论了可能的解决方法。

关键词： 大规模MMO; 深度神经网络; 5G; 信号检测

中图分类号： TN92      文献标志码： A

Dscusson on MMO Detecton Algorthms and Deep Learnng Methods

ZHU Xaohao， JANG Shuchao， SUN Chao

（Department of Communcaton Scence and Engneerng，Fudan Unversty， Shangha 200433）

Abstract： As one of the key technologes of 5G communcaton n the future， massve multple-nput multple-output （MMO） technology has ganed extensve research nterest. However， "large scale" brngs sgnfcant performance gans， and also poses challenges for recever desgn， especally consderng resource and cost constrants. Base staton antennas need to be as small as possble whle meetng performance requrements. The paper frst dscusses tradtonal detecton algorthms n MMO scenaros， such as maxmum lkelhood （ML）， zero-forcng （ZF） and lnear mnmum mean square error （LMMSE） algorthm. Results show that the complexty of the optmal ML algorthm ncreases wth the number of users， whle ZF and LMMSE have sgnfcant performance loss， especally when the recevng antenna and the number of users are close. n response to ths problem， the paper dscusses solutons based on deep learnng framework， ncludng the exstng LAMP detecton algorthm and neural network DetNet; and the prelmnary exploraton of the paper based on fully connected networks. After comparng ther smulatons， t s found that the MMO detecton algorthm based on deep neural network can mprove the performance of tradtonal detecton algorthms. However， the optmzaton of neural network coeffcents may stll lead to hgher tranng complexty. The paper dscusses possble soluton.

Key words： Massve MMO; Deep neural network; 5G; Sgnal detecton

0 引言

大規模多输入多输出（MMO）技术作为5G通信的关键基础技术，是主要的研究热点之一[1]，在MMO系统中，多个干扰信息或符号被同时传输，而我们希望在接收端检测出被噪声和干扰污染的发送信号。对于MMO检测问题的最优算法：最大似然准则（ML），其计算复杂度将随发送天线数Nt显著增加。而计算复杂度低的传统检测算法如迫零（ZF）检测算法、线性最小均方误差（LMMSE）检测算法等，在接收天线数Nr没有远大于Nt时，性能损失明显。因此这种场景下寻找低复杂度、高性能的MMO检测算法十分必要。

最近十几年，机器学习在工业界成功案例非常多[2]。机器学习中的有监督分类与信号检测非常相似。机器学习里，学习模型的时候是计算最昂贵的时候，但这个过程可线下进行。近两年，深度学习在通信方面得到了广泛的关注，在MMO检测领域，将深度学习与其他的检测算法相结合也是将来重要的研究趋势。

本文接下来将首先仿真分析几种传统检测算法，讨论它们各自的优缺点和存在的问题;在第3部分将对基于深度学习的检测算法进行讨论，探索全连接网络在检测中的运用;最后进行总结。

1 传统检测算法

考虑MMO系统的仿真条件：位于接收端的基站有Nr = {2，3，4，6，8}根天线，服务Nt=4个单天线用户，每个用户发送BPSK信号，且相互独立。发送接收端之间的链路是服从标准正态分布的高斯随机信道，信噪比定义成NtP/σ2z，其中P=E

xkx*k

是每个用户的传输能量，如图1所示。

从图1可以看出，Nt=4固定，在Nr较多时，LMMSE和ZF的误码率都表现不错，随着接收天线的减少，传统检测方法的性能损失（相比ML方法）显著增加。进一步分析：

a） ML的复杂度随发送天线增多以及调制星座点数的增加呈指数关系，实际中往往不可行;

b） ZF和LMMSE虽计算复杂度较低，但Nr     注意到这里的性能分析是以最优的ML方法为参考的，而ML的复杂度随着Nt的增加呈指数增加。因此，为了方便仿真，Nr和Nt的取值都较小。但我们期待相应的结论在Nr和Nt取值较大时同样成立：ZF和LMMSE的性能在Nr和Nt取值相近时，与ML相比，性能损失明显。

2 基于神经网络的检测算法

前文已经说明了传统检测算法在MMO场景里并不能满足所有需求，因此将深度学习引入MMO检测中以获得复杂度与性能要求下最佳的检测器是有意义的。

2.1 LAMP

Approxmate message passng （AMP）算法是最近提出的基于因子图的迭代算法，用于解决L1问题，比如压缩感知[3]。文献[4]中，讨论了其在MMO检测中的应用，其迭代公式如式（1）、式（2）。vt=y-Ht+btvt-1

（1）

t+1=ηstt+HΤvt;λt

（2）其中，H∈RNr×Nt，0=0，v-1=0，t∈0，1，2，…，且bt=1Nrt0，λt=αNrvt2.

直观上讲，AMP是首先对于发送符号向量x进行粗略估计;然后根据粗略估计的结果进行软干扰消除;这两步迭代进行，最终得到更加准确的估计结果。文献[5]中证明了AMP在收发天线趋于无穷时的渐进最优性。

LAMP算法是借鉴AMP算法设计的神经网络算法。为了获得更好的性能，[6]中将公式（2）中的传递矩阵一般化为矩阵B，并通过训练来优化B的选择。此时，迭代的数学表达式为式（3）、式（4）。t+1=ηstt+Btvt;σt，θt

（3）

vt+1=y-At+1+bt+1vt

（4）其单层网络图如图2所示。

若每一层的B是同样的，则为ted-LAMP，反之为unted-LAMP。损失函数为式（5）。l（x;t（H，y））=∑Lt=1x-t2

（5）2.2 DetNet

由展开投影梯度下降算法替代ML的思路， Neev Samuel等人引入了DetNet框架[7]。考虑MMO系统模型为式（6）。y=Hx+z

（6）  它的迭代公式为式（7）。

k+1=∏ k-δky-Hx2x=

∏ k-δkHΤy+δkHΤHxk

（7）

其中，k是第k次迭代的估计，∏ ·是一个非线性操作单元，δk是步长。于是产生了以下架构图，如图3所示。

另外参考迭代检测思想， DetNet提取了部分参数b3k、zk、W3k，构造了向量vk并将其传递到下一层神经网络中。DetNet單元的数学表达式如式（8）—式（10）。zk=ρW1kHΤy

k

HΤHk

vk+b1k

（8）

k+1=ψtkW2kzk+b2k

（9）

k+1=W3kzk+b3k

（10）其中k=1，…，L，并且ψtk·定义为式（1）。ψtk（x）=-1+ρ（x+t）t-ρ（x-t）t

（11）  损失函数为式（12）。l（x;θ（H，y））=∑Lk=1log（k）x-k2x-2

（12）其中，=（HΤH）-1HΤy。

可以看出在DetNet中不需输入噪声的方差信息（因为ML算法并不需要噪声方差），而方差信息是LMMSE、AMP等检测器需利用的重要信息，因此理论上在外部噪声未知或不稳定的时候，LMMSE、AMP等算法的鲁棒性不如DetNet。

2.3 算法仿真

当接收端天线数Nr～Nt时如图4所示。

a） 当Nr≥Nt时，从图4可以看出，两者（Amp和DtNet）虽然比不上ML，但都比LMMSE好了很多，在误码率为10-3时，LAMP比LMMSE提高了3.5 dB，DetNet比LMMSE提高了4.6 dB，性能较好，问题部分解决如图5所示。

b） 当Nr 4 全连接网络

回顾LAMP和DetNet网络的设计，其整体结构都可以理解为每层的信号估计和层与层之间的迭代检测。不同之处在于每层的结构选择，LAMP是借鉴AMP算法原理，DetNet是利用投影梯度下降算法。考虑到发送信号的离散非高斯性，上述算法都不是最优的;仿真结果也验证了算法在某些场景下的性能损失。为此，本节中考虑去掉每层的结构限制，直接采用全连接网络，探索基于深度学习框架的算法的性能极限。

在接收机一端，接收到的信号为式（13）。y=Hx+z

（13）  在固定信道的条件下，接下来要利用y来检测出x。文献[8]中证明，只需一个包含足够多神经元的隐层，多层前馈网络就能以任意精度逼近任意复杂度的连续函数，这意味着总能找到一组参数（并不唯一），使得全连接网络的检测机尽可能的逼近ML的检测效果。

损失函数为式（14）。l（;H，y）=fnal_n-x2

（14）  算法仿真。

隐藏层为10层，每层200个神经元，激活函数为RELU函数，如图6所示。

设置发送天线数与接收天线数都是64时，此时对应的是大规模MMO的场景，ML因为复杂度过高不便进行仿真，全连接此时的性能比LMMSE和ZF好很多，如从图7所示。

从图7可以看出，当接收端天线数Nr

5 总结

传统检测方法在天线规模增大时，尤其接收端天线数Nr

参考文献

[1] Rusek F， Persson D， Lau B K， et al. Scalng Up MMO： Opportuntes and Challenges wth Very Large Arrays[J]. Sgnal Processng Magazne EEE， 2012， 30（1）：40-60.

[2] Shalev-Shwartz S， Ben-Davd S. Understandng Machne Learnng： From Theory to Algorthms[M]. Cambrdge： Cambrdge Unversty Press， 2014.

[3] Donoho D L， Malek A， Montanar A. Message-passng algorthms for compressed sensng[J]. Proceedngs of the Natonal Academy of Scences， 2009， 106（45）： 18914-18919.

[4] Senel K， Larsson E G. Devce actvty and embedded nformaton bt detecton usng AMP n massve MMO[J]. arXv preprnt arXv：1709.05161， 2017.

[5] Donoho D L， Malek A， Montanar A. Message-passng algorthms for compressed sensng[J]. Proceedngs of the Natonal Academy of Scences of the Unted States of Amerca， 2009， 106（45）：18914.

[6] Borgerdng M， Schnter P， Rangan S. AMP-nspred Deep Networks for Sparse Lnear nverse Problems[J]. EEE Transactons on Sgnal Processng， 2017， 65（16）：4293-4308.

[7] Samuel N， Dskn T， Wesel A. Deep MMO detecton[C]∥2017 EEE 18th nternatonal Workshop on Sgnal Processng Advances n Wreless Communcatons （SPAWC）， Sapporo， 2017： 1-5.

[8] Hornk K， Stnchcombe M， Whte H. Multlayer feedforward networks are unversal approxmators[J]. Neural Networks， 1989， 2（5）：359-366.

（收稿日期： 2018.11.25）

作者简介：朱啸豪（1995-），男，湖南，硕士，研究方向：信号检测等。

姜述超（1991-），男，山东，博士，研究方向：信号检测等。

孙超（1992-），男，山东，博士，研究方向：信道均衡等。文章編号：1007-757X（2020）01-0094-04