基于多标签分类算法的多输入多输出智能接收机模型

王安义，张衡

（西安科技大学 通信与信息工程学院，西安 710054）

0 引言

随着5G 研究与快速发展，多输入多输出（Multi-Input Multi-Output，MIMO）系统因其能有效提高系统性能和增大系统容量受到了广泛关注［1］。且MIMO 是5G 中提高系统容量和频谱利用率的关键技术。理论上，当小区基站天线数目趋于无穷大时，加性高斯白噪声（Additive White Gaussian Noise，AWGN）和瑞利衰落等负面影响全都可以忽略不计，数据传输速率能得到极大提高［2］。但是在复杂的场景下，信号依然受到很多负面干扰，使得信号失真，因此使用深度学习去解决端到端的信号恢复，也成为一个新的研究方向。

近几年人工智能技术已然成为当今社会最前沿的研究方向，其中深度学习受到了学术界和工业界的极大关注，并且在图像识别、语音识别、自然语言处理等方面实现了实际应用［3-5］。在此背景下，近年来国内外研究学者开始就如何将人工智能技术引入到通信领域展开了初步的研究探索，在调试方式识别、信道编码、通信信号分类等方面取得了一定的研究成果［6-9］。当前，现代无线通信系统朝着宽频带、大容量、远距离、多用户、高效率、高灵活性的智能化和综合化方向发展。新技术问题的出现总是和人们对高性能通信系统的需求相伴随。随着通信场景多样化，系统面临着信道时变、链路非线性、计算处理资源受限等问题。在信道估计方面，文献［10］中提出一种基于深度学习的时变瑞利衰落信道估计方法，通过将循环神经网络（Recurrent Neural Network，RNN）结构与滑动窗口思想相结合，利用神经网络建立、训练和测试滑动双向门控递归单元信道估计器，完成时变瑞利衰落信道的估计。在信道均衡方面，文献［11］中考虑了利用深度学习实现信道均衡，提出了基于深度神经网络（Deep Neural Network，DNN）和卷积神经网络（Convolutional Neural Network，CNN）的均衡器，并与传统的基于最小二乘法（Least Squares method，LS）和最小均方误差（Minimum Mean Squared Error，MMSE）的均衡方法进行了比较，在正交频分复用（Orthogonal Frequency-Division Multiplexing，OFDM）系统中，取得了比传统均衡方法更好的误码率（Bit Error Ratio，BER）性能。在符号判决方面，文献［12］中利用DNN 结构来替代OFDM 接收机中符号检测模块。未来通信场景运用的多样化，使得信号恢复处理研究领域面临新的问题。然而，机遇总是和挑战相并存，在这样的背景下，突破传统方法的束缚，分析数据和知识的关联性，研究复杂场景下信号恢复新方法，实现智能通信接收方法就更加值得去探索和研究。

深度学习中的多标签分类算法常用于解决文本分类、图像分类、生物信息分类等问题。与传统分类不同的是，在多标签分类问题中标签数不确定，可以是单个标签，可也是多个标签，高达几十甚至上百个。依据这一特性，本文将输出的比特序列看作多个标签，提出了基于多标签分类的MIMO智能接收机。最后进行了仿真分析，验证了其优越的性能。

本文主要工作如下：

1）提出MIMO 智能接收机模型，实现从接收到的IQ（I：in-phase 表示同相；Q：quadrature 表示正交，与I 相位差90°）信号波形中恢复出原始信息比特流的目的，替代传统通信接收机中载波和符号同步、信道估计、均衡、解调、信道译码等整个信息恢复流程，尽可能减少无线信道衰落、噪声、干扰等因素的影响。

2）提出一种基于CNN 分类的智能接收机实现方式。具体来说，本文设计了一种一维卷积（1D-Conv）-DenseNet 网络结构，网络中所有的卷积均为一维卷积，采用全局池化（Global pooling）得到相同维度的特征向量来提升网络对不同输入信号长度的适应性，在最后的分类层采用一个分类函数来代替M个二分类器来实现比特流恢复，解决信息比特数较多时采用单分类器出现的类别数目过多的问题，同时选择Sigmoid 作为分类函数，省去对比特序列的热编码步骤。

1 系统模型

1.1 MIMO信号模型

在MIMO 发送信号端，将要发送的语音、文本或视频等内容在经过处理转换成信息比特流，然后对信息比特流进行信道编码、调制和脉冲整形，最后经过空时编码后由不同天线将产生的信号辐射到空中。接收机接收到信号后，采用解调、信道解码等方法恢复信息码流，然后对码流进行解密、解码，得到原始内容。传统的通信接收算法主要针对特定的调制和编码方式进行设计，对于发射端采用自适应编码调制的通信系统，其接收端也往往需要知道当前信号采用的调制和编码方式，才能选择对应的接收算法进行信息恢复。本文以MIMO 无线通信系统为模型，其接收端的信号为：

其中：y为接收信息向量；H为瑞利衰落随机信道矩阵；x=(x1，x2，…，xM)T为发送向量，n为高斯加性白噪声。

研究表明，在发射机上获得的增益通常很小，尤其是在高信噪比（Signal-to-Noise Ratio，SNR）时。然而，在多用户情况下性能差距要大得多，并且随着信噪比变大或发射天线数量增加，性能差距将增加而不是减小。这可能使得在发射机处获得信道知识的潜在高成本更加合理［13］。而接收机是保证无线通信系统误码率性能的关键，其接收到的信号会受到很多不可控因素的干扰和影响，常见的因素有衰落、损耗等。由于接收机会接收到一些失真严重的信号，想要从这些失真严重的信号中恢复发送数据，MIMO 传统方法是采取空分复用技术，它是在发射端发射相互独立的信号［14］，接收端采用干扰抑制的方法进行解码的技术。

1.2 深度神经网络接收机模型

由于庞大的训练数据，本文对文献［15］中提出的智能接收机算法进行了改进（如图1 所示），设计了小训练样本的多标签分类MIMO 智能接收机模型，该模型使用深度神经网络来代替传统通信接收端的信息恢复过程。多标签分类MIMO 智能接收机的输入为接收到的无线IQ 信号，输出为恢复后的信息比特流。这种智能接收机与传统的通信发送端形成一种新的通信体系，其目的是在各种非理想条件下尽可能可靠地恢复信息，提高接收机对复杂场景的适应性。

2 多标签分类MIMO智能接收机

设发送的信息比特流为s=(s1，s2，…，sM)，其中M是比特流中的比特数，si(i=1，2，…，M)取二进制0 或1。信息比特流经过信道编码、调制和脉冲成型。产生的信号通过MIMO方式发送，通过无线信道发送到接收端。常用方法是使用单一的多类别分类器来解决。比特流总共包含M比特，所有可能的类的数目为2M，因此可以使用具有2M类的分类器来解决这个问题。然而，随着比特数量级增加，输出类别的数目呈指数爆炸增长［15］。传输位数小时可以轻松实现，但是随着5G 技术的高速发展，大比特流传输不可避免。当M很大时，需要的训练样本数量将远远大于2M。产生如此多的训练样本很困难，实测的数据也很难达到需求；同时训练的计算复杂度会非常高，训练网络的时间将非常长且很难收敛。

本文将该问题看作是单输入多输出分类问题，将接收到的IQ 信号作为网络的输入，网络主体采用DenseNet（Dense convolutional Network）一维卷积模型，对网络最后将提取到的共享特征向量进行多标签分类操作，而多标签分类恰好是处理单输入多输出分类问题的一个方法。多标签分类器模型的任务是从接收到的IQ 信号中恢复信息比特流，常规的思路是把输出的比特序列当作是一个序列整体，而本文将输出序列的每一个值都看作一个输出。在多标签分类神经网络中，一些学习算法本身就支持多标签分类。将神经网络模型配置为支持多标签分类，并且可以根据分类任务的具体情况很好地执行。只需指定问题中的目标标签数作为输出层中节点数，神经网络就可以直接支持多标签分类［16-18］。具有M个输出标签（类）的任务将需要一个神经网络输出层，该神经网络在输出层中具有M个节点。输出必须使用Sigmoid 函数激活，这将预测每个标签的概率，损失函数选择用二进制交叉熵损失函数拟合。

因此，本文提出基于多标签分类算法的模型，此模型采用DenseNet 深度神经网络。在全连接层之后使用Sigmoid 分类函数输出向量标签，标签向量里的每个值即对应为0 或1的概率，当概率大于0.5 时输出标签为1，小于0.5 时输出标签为0。

文献［15］中提出共享网络多二分类模型，如图2 左边所示，该模型对共享网络提取到的特征向量进行多次二分类操作。该模型使用M个Softmax 函数并行对特征向量进行分类从而实现多二分类，恢复M位比特信号。如图2 右边中虚线框所示，在该模型基础上，使用一个Sigmoid 函数来代替M个Softmax 函数，实现一次分类操作恢复比特信号。Sigmoid 和Softmax 都可以用作分类，两者的核心区别在于函数输出值的分布。Softmax 函数用于分类主要就是利用其在众多输出值的概率分布满足输出中只有一个值大于0.5，剩下的输出值均小于0.5，且所有值的和为1 的概率分布。而Sigmoid 函数的不同之处在于，该函数的每一个输出都是独立的，每一个输出值都服从大于0 且小于1 的概率分布。本文正是利用了这一概率分布特性，使用一个Sigmoid 函数来代替M个Softmax 函数。此做法优点如下：

1）替换后的网络得到简化，在参数减少的同时，训练时间也得到了优化（文献［15］中多二分类模型并行计算，本质上还是多个网络，训练时间长）。2）在数据做标签时也省去了很多步骤，因为文献［15］中使用M个Softmax 二分类函数，而该分类函数的输出标签是独热编码，需要2 个位编码。首先在对M位比特做标签时需要将一个长度为M的序列拆分为M个单独的比特，然后需要对这些独立的比特进行热编码，因为是二分类，所以每个标签为2位，最后还要将这些独立打好标签的编码再组合。本文利用Sigmoid 激活函数输出是一个一维长度为M的向量矩阵这一特点，正好与M位序列向量匹配，可以直接使用信号的M位比特序列作为网络的输出标签，在通信系统里减少操作步骤，在实际应用中减少时延。

修改模型为M个输出的多标签分类器，由于恢复的比特自身数值［0，1］的属性，则可以省去进行标签处理的步骤，因此本文直接将输出比特作为输出标签。设s=(s1，s2，…，sM)，M表示标签空间的标签量，作为最后一层输出。将二维的信号比特特征x输入此多标签分类器模型中学习，得到预测输出y=predict(x)，真实实例标签为=sT，其中激活函数为Sigmoid 函数：

整个网络训练损失函数设计为二值交叉熵损失函数：

其中：yi为真实标签；N为样本个数=σ(xj-1)，j为网络层数，xn-1为最后一层激活函数的前一层输入。

深度神经网络训练是基于训练数据集优化网络参数，在训练集上取得良好的性能，同时尽量使其推广到训练集以外的其他数据。本文采用深度学习多标签分类中最常用的优化方法，即自适应矩阵估计（Adaptive moment estimation，Adam）。损失函数是训练的关键，对于多标签分类问题，选择二值交叉熵损失函数。

3 仿真分析

3.1 仿真实验设置

训练集数据和测试集数据均用Matlab2020a 生成。训练使用Tensorflow 在英伟达2080Ti GPU 上进行。网络初始化时，所有参数均以高斯分布随机初始化。训练优化器采用Adam，训练时，batch 大小为128，Epoch 次数为8，初始学习率为0.001。

实验分为四个部分：

实验一 验证智能接收机端到端信息恢复能力，考虑两种调制方式：二进制相移键控（Binary Phase Shift Keying，BPSK）调制和正交相移键控（Quadrature Phase Shift Keying，QPSK）调制，信道编码采用（7，4）汉明码，脉冲成型滤波器采用升余弦滤波器，滚降系数为0.5。对于BPSK 汉明码方式，原始信息比特数为16，使用Matlab 随机生成序列，经过编码后为28 比特，分别使用BPSK 和QPSK 调制，再经正交空时分组编码（Orthogonal Space-Time Block Coding，OSTBC）和升余弦滤波成型后发出，默认环境AWGN，本次实验信道是服从瑞利分布的多径衰落，设置最大多普勒频移为1 Hz。每个训练数据集信号Eb/N0（比特信噪比，单位dB）范围0 dB～8 dB，步长1 dB。每个Eb/N0 的样本数为10 万条，共计90 万条训练数据。测试数据集信号Eb/N0 范围0 dB～8 dB，每个Eb/N0的样本数为10 万条。

实验二 验证智能接收机模型对多种调制和编码组合的信息恢复能力，考虑两种调制方式：BPSK 调制和QPSK 调制，信道编码采用（7，3）循环编码和（15，5）循环编码，由于2发射天线空时编码偶数特性，原始信息（7，3）循环编码比特数为24，（15，5）循环编码比特数为20，每个训练数据集，信号Eb/N0 范围0 dB～8 dB，步长1 dB。每个Eb/N0 的样本数为1 万条，共计9 万条训练集。测试数据集中，信号Eb/N0 范围0 dB～8 dB，每个Eb/N0 的样本数为1 万条。

实验三 验证MIMO 智能接收机在受到干扰信号情况下的性能。本实验是以2×2MIMO 为基础，考虑了两种受干扰的情况：其一是单个发射天线上信号受到干扰信号的干扰；其二是两个发射天线信号分别受到不同频率的干扰信号，干扰信号的功率根据信干比（Signal-to-Interference power Ratio，SIR）在-10 dB～20 dB 确定。

信号Eb/N0 范围仍然设置为0 dB～8 dB。干扰信号部分如图3 所示，干扰信号的横坐标表示为离散干扰信号的个数，与接收的IQ 信号相同。本文选择了Eb/N0=8 dB，SIR 分别为-10 dB、15 dB 的两张图。从图3 中可以看出，当SIR 很小时，干扰信号可以很明显辨别。当SIR 很大时，干扰信号很小，难以辨别。

实验四 为验证其信息恢复位数的可扩展性，考虑信息恢复比特位数分别为32、64、128。均用BPSK 调制方式与瑞利信道。每个训练数据集信号Eb/N0 范围为0 dB～8 dB，步长1 dB。每个Eb/N0 的样本数为1 万条，共计9 万条训练集。因为恢复位数不同，做了两次对比实验，第一次控制测试数据集相同，每个Eb/N0 均为1 万条数据，则总比特数依次为32 万条、64 万条、128 万条；第二次测试每个Eb/N0 控制总比特数相同，则测试集数据依次为1 万条、0.5 万条、0.25 万条。

3.2 BER性能分析

实验一比较理想信道和瑞利信道下智能接收机的性能。从图4 可以看出，当信道中有衰落的影响时，传统接收机的性能受到很大的影响，但对智能接收机影响并不显著，且智能接收机的性能远远优于传统接收机，这也验证了多标签智能接收机端到端强大的信息恢复能力。Eb/N0=7 dB时，传统译码方法的误码率（BER）为1E-7，而本文设计的多标签接收机在Eb/N0=6 dB时，BER 已经为0，性能更加优异。

对于实验二，从图5 可以看出，在采用多种调制方式和编码方式的情况下，智能接收机仍然能够以很高的准确率恢复原始信息，而且性能远远优于传统方法，说明了多标签智能接收机的优越性。

对于实验三，从图6 可以看出，相同SIR下，传统译码，两个发射数据都被干扰要比单个发射数据要严重。但对于智能接收机而言，性能得到极大的提升。在SIR=-5 dB，Alamouti 译码几乎已经无法恢复信号，但是智能接收机依然在Eb/N0=8 dB时，BER 达到了1E-5。这也验证了智能接收机端到端处理数据的强大能力，以及强抗干扰性能。

实验四的结果如图7 所示，当总比特数相同时，在实验一和实验二的基础上扩展了信号恢复位数，在小比特数情况下，当Eb/N0=5 dB时，BER 已经为0，性能非常优秀，随着信息比特位数增大，在同一个深度神经网络下，准确率开始下降。这是由于共享网络模型本身存在问题，共享网络由于共享的是同一个特征向量，所以特征向量的复杂度决定了结果的准确度。文献［15］中提出的共享网络由于在最后一层卷积层的卷积核数量为150，这使得共享的特性输出维度为（151，1），当151 维用于32 位和64 位输出时，效果很好；但是随着输出数量越来越大，特征向量输出的效果降低。这需要进一步对特征向量增加维度进行优化。

3.3 模型性能分析

从表1 中可以发现，改进过的模型的训练时间有所减少，参数量大幅下降，每个批次提升约4 min，在相同共享网络的情况下，网络参数减少了2 416 个。结合图2 虚线框中的结构，文献［15］模型的参数为151×2×16=4 832，多标签151×16=2 416，相差值Δ=4 832-2 416=2 416，改进后的模型参数量比文献［15］中少了151×M。

表1 不同模型的性能对比Tab.1 Performance comparison of different models

4 结语

本文将多标签分类思想应用于MIMO 接收机系统上，采用深度学习算法，解决了MIMO 整个接收端的信号恢复问题。智能接收机优化的是接收端信息恢复整体性能，能够实现多种调制和编码方式下的信息恢复。智能接收机只从数据中学习，不需要考虑外界干扰的影响。仿真结果表明，基于多标签分类算法的BER 性能优于现有的研究方法，同时在模型的参数量与时间效率上均有很大的优势。本文提出的基于多标签分类的MIMO 智能接收机可以进一步提高接收机的性能，因此对于实际的通信系统具有实际应用价值，针对通信过程中的信号检测、信号恢复、信号调制方式识别等通信问题提供了一种新的解决方法。下一步将在已有的智能接收机仿真研究中，研究其在真实的海洋复杂多变的恶劣环境中的应用。