基于深度学习的MIMO系统联合信号检测与信道译码

李国权，杨 鹏，马珺杰，徐永海，林金朝

(1.重庆邮电大学 通信与信息工程学院，重庆 400065；2.光电信息感测与传输技术重庆市重点实验室，重庆 400065；3.陕西铁路物流集团有限公司，西安 710076)

0 引 言

目前，大规模多输入多输出(multiple-input multiple-output，MIMO)系统的部署问题被公认是5G研究与推广过程中需迫切解决的问题之一。在MIMO技术的研究发展历程中，已纳入许多无线通信标准协议，例如802.11n/ac[1]和4G[2]长期演进(long term evolution，LTE)。理论证明，该技术可通过增加无线通信系统发射端与接收端天线的数量，在不增加频谱资源和天线发射功率的情况下，充分利用空间资源，从而改善通信质量并提高无线通信系统信道容量[3]。

近几年来，深度学习作为机器学习理论中的重要分支，已在各个研究领域中得以广泛、成熟的运用。例如计算机视觉、图像识别及语音识别等。在先前的无线通信研究工作中，基于传统理论设计的无线通信系统，已明显地限制了系统传输性能的进一步提升。作为新兴的研究方法，深度学习已被公认是极具竞争力的研究工具，有利于解决未来通信系统演进过程中存在的瓶颈问题。该方法也已证明具有联合优化整个无线MIMO通信系统的潜力[4]，众多科研学者们纷纷将人工智能技术引入到无线通信系统的各个层面进行研究，掀起了智能通信[5]领域研究的热潮。尤其针对当前传统通信系统中的难点问题，深度学习可作为一种较好的研究思路与解决方法，以分子通信中的信道建模问题[6]为典型案例，较好地弥补了传统算法中的一些缺陷。

智能通信[5]作为未来无线通信领域研究的主流方向之一，致力于在通信系统物理层中寻求技术上的关键突破，达到降低系统复杂度的目的，从而进一步提升通信系统传输性能。文献[7]详细地总结了人工智能技术引入到5G无线通信系统中的最新研究近况。同时，针对通信系统接收端中的信道译码问题，受深度学习在各领域应用中最新研究的启发，文献[8]提出了一种新颖的迭代信念传播卷积神经网络结构(belief propagation convolution neural network，BP-CNN)，其核心思想是将训练好的CNN神经网络与标准的BP译码器进行级联，其中，CNN神经网络用于消除BP译码器的估计误差，以获得更准确的信道噪声估计；而BP译码器的作用则是估计编码后的传输信息比特，将BP译码算法与CNN神经网络两者结合起来，经过多次迭代训练后，达到了提高通信系统中信道译码性能的目的。

信号检测[9]作为无线通信系统研究的热点问题，目前，深度学习方法也已被众多研究人员所应用，以解决通信系统中的信号检测问题，从而提高检测性能。文献[10]研究了深度神经网络结构(deep neural network，DNN)来解决在正交频分复用(orthogonal frequency division multiplexing，OFDM)系统中的信号检测问题。该文将整个OFDM通信系统接收端中的信道估计和信号检测功能模块视为一个黑盒子，利用深度学习具有强大的“学习”能力，采用大量的比特信息数据来对整个通信系统中的神经网络进行训练。该方法虽可提高OFDM系统中信号检测的性能，但同时也反映了此方法存在的缺陷。例如，在整个OFDM系统训练之前，该方法需要收集足够大的训练数据集，从而导致前期研究准备工作花费较长时间。文献[11]提出了一种检测神经网络(detection network，DetNet)算法，来解决MIMO系统的信号检测问题。该算法在最大似然算法的基础上引入了梯度下降优化算法，从而构建了一种深度神经网络结构。通过采用离线训练的方式，尝试“学习”高斯信道下的信道状态信息。该方法仅将较少的传统通信理论知识与神经网络模型进行结合，依赖训练阶段中存在超多训练参数的神经网络，达到提高MIMO信号检测性能的目的。文献[12]则提出了一种基于网络模型驱动的深度学习方法用于对MIMO系统进行信号检测。该方法弥补了神经网络训练过程中存在较高复杂度的缺点，在传统正交近似消息传递(orthogonal approximate message passing，OAMP)迭代算法的原理基础之上，结合深度神经网络构建了一种OAMP-Net网络模型，仅加入少量并可调节的训练参数进行训练，降低了复杂度，提升了传统OAMP信号检测算法的性能。

为进一步提升MIMO系统检测和译码的整体性能，本文提出了利用深度神经网络与自动编码器(autoencoder，AE)神经网络构建MIMO无线通信系统接收端部分，来联合解决系统信号检测与信道译码的问题。首先将MIMO系统发射端中未经编码的传输信息比特进行二进制相移键控(binary phase shift keying，BPSK)调制，然后通过瑞利衰落信道，发送至MIMO系统的接收端中。进一步将通信系统发射端中将要发送的信息比特利用极化码进行信道编码处理，然后经过相同的瑞利衰落信道模型，发送到通信系统的接收端中。2种情况下均采用DNN和AE神经网络模型，来处理发射端传输的信息比特或码字以及信道状态信息。整个MIMO系统都是基于端到端的方式并采用梯度下降算法进行训练，使神经网络“学习”系统收发端的信息比特或码字之间的映射关系；最后进行了仿真性能分析，结果表明，本文提出的基于深度学习的联合信号检测和信道译码方法相比其他类似方法及传统的检测和译码算法具有较优的性能，可进一步改善MIMO系统的传输性能。

1 系统模型

本文考虑了一个MIMO无线通信系统，在发射端和接收端中分别配置Nt和Nr根天线。整个MIMO系统的数学模型可表示为

y=Hx+n

(1)

(1)式中：x=[x1,…,xNt]T∈Nt×1表示MIMO系统中发送信息矢量；y=[y1,…,yNt]T∈Nr×1为系统接收信息矢量；H∈Nr×Nt表示瑞利衰落信道矩阵；n∈Nr×1为高斯白噪声矢量，并且其中各个元素均服从均值为零，方差为1的独立高斯分布。在整个MIMO系统中，其核心目标是在系统接收端中准确地检测与译码出发送的信息码字或比特。为实现该目标，将深度神经网络与自动编码器2种网络模型构建到传统无线MIMO通信系统物理层框架中，如图1。

图1 基于神经网络的MIMO系统模型Fig.1 MIMO systems model based on neural network

2 MIMO系统检测算法

2.1 非线性检测算法

由于最大似然(maximum likelihood，ML)检测算法[13]具有最优的检测性能，其检测信号的数学表达式为

(2)

该算法将通信系统中要发送的信息，尽所有可能的组合进行全局搜索，找出最佳的发送符号，因此，具有最优的检测性能。不足之处在于，当MIMO系统采用天线数量较多或者调制阶数较高时，ML检测算法的复杂度会随天线数量和调制阶数增加而呈指数级增长[14]，因此，只适用于天线数目较少的低阶调制系统。为了在检测性能与复杂度之间得到较好的权衡，许多次优的检测算法也相继被提出，如最小均方误差、迫零连续干扰消除检测算法[15-16]，并在实际当中得以应用。

2.2 线性检测算法

为降低MIMO系统检测的复杂度，许多线性检测算法被提出，例如迫零[17](zero forcing，ZF)检测和最小均方误差检测[18](minimum mean square error，MMSE)。其检测信息的表达式分别为

(3)

(4)

ZF检测算法，由于计算量低、易于实现，与其他检测算法相比，可以降低系统信号检测的复杂度，具有较好的实际应用价值，缺陷在于抑制其他信号干扰的同时，过度地放大噪声，影响了系统检测性能；MMSE检测算法，考虑了多根天线之间的干扰及噪声带来的影响，在均方误差最小化准则下，进行选取线性滤波矩阵，因此，在噪声不严重的情况下，该算法可以较好地消除噪声与不同天线间的干扰，相对于ZF算法的检测性能较好。

3 神经网络模型

大多数神经网络[19]结构类型均由全连接的神经元构成，在每个神经元当中，其权值作为输入并进行求和，同时选择适合的偏差值，最后通过非线性激活函数得到输出结果。其中，典型非线性激活函数有sigmoid函数、整流线性单元(rectified linear units，Relu)，具体的数学表达式分别为

(5)

grelu(λ)=max{0,λ}

(6)

如果整个神经网络结构中的神经元在无反馈连接情况下一层层排列，则称这种神经网络类型为前馈神经网络，其输入与输出的映射函数取决于参数集θ。具体的函数关系表达式为

y=f(x;θ)=fL-1(fL-2(…(f(0)(x))))

(7)

(7)式中：L是整个神经网络的层数，也被称为整个神经网络的深度；x与y分别为整个神经网络中的输入与输出。为找到整个神经网络中最佳的权值，需要利用已知输入到输出的训练集进行训练，并可以用特定的损失函数来定义。通过运用梯度下降优化算法与反向传播算法[20]，使整个神经网络的训练过程中损失函数的值达到最小化，以确保神经网络在未知输入的情况下，能够预测到较为正确的输出，该过程称为泛化。为了量化神经网络的泛化能力，其损失程度可以用一个没有参与的训练数据集来确定，即验证集。

通常情况下，将深度学习运用到其他研究领域时，获取所需训练数据集需要花费较大的代价。若将该方法应用于无线通信领域中来解决MIMO系统的信号检测及信道译码等问题，这将会是一件较为容易的事情。由于研究对象是无线MIMO通信系统传输的信息比特而非图片和文字等，因此，可通过仿真中随机函数生成器的方法，产生足够大的训练数据，可得到训练效果较好的神经网络模型，再利用产生的部分数据集，对训练好的网络模型进行测试。目前，深度神经网络与自动编码器神经网络模型已广泛地应用在其他领域，以解决图像识别领域中的特征信息提取和通信系统中的信道噪声处理等问题，并取得了不错的效果。本文运用的神网络模型结构如图2和图3，相比DNN神经网络，自动编码器的网络结构主要由2部分构成，即编码器和译码器部分。其中，编码器的作用是对输入的数据进行压缩，将高维的数据映射为维度较低的数据；而译码器则主要复现原始发送数据的过程。在自动编码器的编码器和译码器部分中，隐含层均含有对应相同数量的神经元，用于级联整个神经网络结构中的相邻层。

图2 自动编码器神经网络模型Fig.2 Autoencoder neural network model

图3 深度神经网络模型Fig.3 Deep neural network model

为解决MIMO系统信号检测和信道译码问题，本文综合利用2种标准神经网络来构建MIMO无线通信系统接收端。在MIMO通信系统接收端中，构建的自动编码器神经网络模型，总共包含6个隐含层。编码器和译码器部分的神经网络结构分别含有3个隐含层，而编码部分与译码部分则仅由单层的密集层进行连接。对于深度神经网络模型主要包含3个隐含层，每一层中含有128，64，32个神经元。除输入层与输出层以外，归一化层也被用于加速收敛并且防止训练过拟合。该2种神经网络布局及完整参数如表1和表2。

表1 深度神经网络结构布局与参数

表2 自动编码器神经网络结构布局与参数

表1和表2中，各个参数的含义如下。

1)输入层：在8×8的MIMO通信系统中，针对信号检测问题，输入层的输入是未经编码的发送信息；其次，针对MIMO信道译码问题，输入层的输入是发送信息比特经过编码处理后的码字信息。

2)输出层：2种不同神经网络结构的隐含层输出结果均要通过非线性sigmoid激活函数进行输出。

3)损失函数：在整个MIMO通信系统中，2种不同的神经网络均采用了二进制交叉熵损失函数来进行训练。

4)优化器：选择了深度学习理论中广泛应用的自适应矩估计(adaptive moment estimation，Adam)算法作为优化器。

5)总训练参数：通过将整个MIMO系统进行训练，从而可获得DNN与自动编码器神经网络的总训练参数。

4 仿真分析

4.1 性能分析

本文对深度神经网络与自动编码器神经网络2种网络模型进行了仿真和分析。仿真中采用了BPSK调制方式，信道为瑞利衰落信道，在存在信道编码的情况下，采用码字长度为16的极化码，码率大小为1/2。在整个MIMO系统训练过程中，将接收到的码字按长度256进行划分，并分别进行批量训练。该文中2种神经网络结构模型均利用深度学习的架构TensorFlow[21]上进行训练，并通过Adam[22]梯度下降优化算法进行优化。针对MIMO系统信号检测与信道译码问题，前者采用的训练数据与测试数据均是经过调制及瑞利衰落信道下而得到的比特信息；后者训练数据和测试数据则是经过极化编码、二进制相移键控调制并在信道上传输后而得到的随机二进制信息。仿真中将固定信噪比大小为5 dB进行训练，然后测试信噪比设定在1～10 dB，得到仿真结果，本文进一步给出了所涉及的实验仪器设备及训练集、测试集数据大小，如表3。

表3 仿真实验参数

仿真中首先将多个用户发送的比特信息不经过信道编码而直接进行BPSK调制，并通过瑞利衰落信道，发送到MIMO系统的接收端。然后利用训练数据集，采用端对端的方式，对2种神经网络进行训练并“学习”整个MIMO系统收发端的比特信息、码字两者之间的映射关系，进一步利用测试数据集，针对无信道编码情况下，对MIMO系统性能进行了仿真。在此基础上，在MIMO系统的发送端增加信道编码环节，然后重复上述过程，训练获得2种深度神经网络联合进行信号检测和信道译码的模型，并利用测试数据集进行性能仿真，仿真结果如图4。

图4 MIMO系统中信号检测与信道译码性能Fig.4 Performance of signal detection and channel decoding in MIMO systems

从图4中可以看出，在一定信噪比范围下，深度神经网络与自动编码器神经网络的信号检测的性能相差不大，并且2种神经网络均能够实现较好的检测性能。随着信噪比数值的增加，深度神经网络的检测性能略优于自动编码器神经网络的检测性能，这说明了深度神经网络可以作为研究无线通信系统中具有普适性的神经网络类型。对于MIMO系统译码性能方面，采用自动编码器神经网络的译码性能却较好于深度神经网络的译码性能。造成两者性能差异的主要原因是该2种神经网络结构类型不同，由于自动编码器是一种尽可能复现输入信号的神经网络模型，该神经网络的编码部分可将一定长度的传输码字进行压缩，达到去除不同码字之间冗余信息的目的，从而在神经网络的训练过程中，提取码字间信息的能力较强；然后，通过译码部分神经网络中的反向传播算法来训练“学习”整个神经网络编码部分输入的码字信息，得到较为准确的原始码字信息，从而提高了MIMO系统译码性能。这也从另一个角度证明，针对不同领域中的研究对象，不同类型的神经网络模型也表现出各自独特的优势。例如卷积神经网络广泛地应用于图像识别，而长短期记忆网络则成熟地应用于文字检测和识别。

4.2 性能对比

为了验证深度学习方法的有效性，本节将深度学习方法与传统检测算法性能进行了对比，仿真结果分别如图5和图6。从图5中可以得出如下结论，基于深度学习方法运用MIMO系统信号检测，该检测性能虽低于具有最优的ML检测算法性能，但却明显优于线性的MMSE，ZF检测算法。传统的线性检测算法原理相对简单，而本文运用深度学习算法，分别将其训练效果较好的DNN和自动编码器神经网络模型进行测试后，该模型能表现出较好的性能优势。当误码率为10-2时，基于深度学习方法与ML检测方法相差近3 dB的性能增益；相比MMSE检测算法，误码率为10-1～10-2时，该深度学习方法有近2 dB的性能增益。

图5 深度学习与线性检测算法性能对比Fig.5 Performance comparison between deep learning and linear detection algorithm

图6 深度学习与非线性检测算法性能对比Fig.6 Performance comparison between deep learning and nonlinear detection algorithm

仿真图6显示出了深度学习方法与非线性MMSE-SIC和ZF-SIC检测算法的性能比较情况。基于深度学习的检测方法表现出了强大的“学习”能力，通过将神经网络模型经过迭代训练后，可获得具有最优传输性能的MIMO系统模型，从而在测试阶段中也得到了较好的检测性能，这弥补了非线性检测算法的性能缺陷，进一步提高了信号检测性能。从图6中可得出，基于自动编码器的MIMO系统信号检测性能略优于MMSE-SIC检测算法的性能；在误码率约为0.05时，2种神经网络的检测性能相对于ZF-SIC检测算法约有4 dB的性能增益；在误码率为10-2时，DNN检测的性能与MMSE-SIC检测算法具有约1 dB的性能增益。

本文还进一步对比了文献[11]中所提出DetNet网络模型的性能。仿真中采用了与本文中DNN和自动编码器神经网络模型中相同大小的训练集和测试集。在1～10 dB信噪比下，得出了DetNet检测算法的误码率性能，该仿真结果如图7。从图7中可以看出，在相同信噪比范围内，深度神经网络与自动编码器神经网络运用于MIMO系统信号检测的检测性能同样优于文献[11]中DetNet模型的检测性能；但在信噪比约10 dB时，DetNet模型的检测性能与这2种神经网络的检测性能接近，说明了DetNet检测模型同样具备较好的检测性能，但该网络结构相比于DNN和自动编码器神经网络结构较为复杂；同时在误码率为10-2时，本文中DNN神经网络与自动编码器神经网络有近1 dB的性能增益，且在这一信噪比范围内，其检测性能较为优势明显。

图7 基于不同深度学习的方法信号检测性能对比Fig.7 Comparison of signal detection performance based on different deep learning methods

为验证深度学习方法在MIMO系统中信道译码的性能，该文选择对比了极化码的BP置信传播算法[23]的译码性能。在标准的BP译码算法中，本文将该传统译码算法的迭代次数设置为100次，经过迭代循环后，其仿真结果如图8。从图8中可得出，基于深度学习的信道译码性能优于BP译码算法性能；在误码率为10-2时，采用自动编码器神经网络的译码方法有2 dB左右的性能增益；而深度神经网络的译码性能也有近1 dB的性能增益。这也进一步说明深度学习方法可以明显改善MIMO系统信道译码性能。

图8 深度学习与译码算法性能对比Fig.8 Performance comparison between deep learning and decoding algorithms

4.3 复杂度分析

由于算法复杂度的高低，将会对MIMO系统中的检测与译码性能产生重要影响。为较好地衡量算法复杂度，本文分别从时间复杂度和计算复杂度进行了分析。针对深度学习算法的时间复杂度，主要来源于所需训练样本的总和及神经网络模型的深度。当前已存在着许多不同的性能指标，例如计算机系统的平均吞吐量、神经网络模型在中央处理器运行或者图像处理加速运行消耗的时间等。而对于深度学习算法的平均吞吐量已达到次优线性检测算法相同的数量级[24]，并且该算法也已证明在实际运用中是可以承受的[25]。

在计算复杂度方面，本文选取了具有代表性的线性与非线性检测算法复杂度进行比较，并依据文献[26]中深度学习算法在计算复杂度方面的理论分析，从而得到本文运用DNN和AE神经网络进行检测的计算复杂度，该各个检测算法的计算复杂度对比情况如表4。

表4 算法的计算复杂度对比

5 结束语

本文主要运用深度学习的方法，将深度神经网络与自动编码器神经网络引入到MIMO通信系统物理层中，采用端对端的训练方式，使神经网络能够“学习”系统收发端的信息比特或码字的映射关系，联合解决了MIMO系统中的信号检测与信道译码问题。仿真结果表明，除最优的ML检测算法外，相比一些传统MIMO系统中次优的信号检测和信道译码算法，基于深度学习方法可以进一步提高信号检测与信道译码的性能。相信在未来无线通信中的信号处理研究方面，深度学习方法将作为重要的技术手段，并会引领智能通信技术的进一步发展。